Smart City

Halucynacja może przybrać różne formy. AI może:

• wymyślić nieistniejące źródło,
• podać błędną datę lub nazwisko,
• przypisać komuś słowa, których nigdy nie powiedział,
• stworzyć fałszywy opis wydarzenia,
• wygenerować nieprawdziwy cytat lub statystykę.

Problem polega na tym, że odpowiedzi generowane przez AI często brzmią bardzo profesjonalnie. Dla osoby, która nie zweryfikuje informacji, mogą wydawać się całkowicie wiarygodne. 

Skąd biorą się błędne odpowiedzi?

Modele językowe nie posiadają wiedzy w tradycyjnym rozumieniu. Nie sprawdzają automatycznie prawdziwości informacji w czasie rzeczywistym. Ich działanie polega głównie na przewidywaniu kolejnych słów i budowaniu logicznie wyglądających zdań.

Jeżeli model nie posiada wystarczających danych lub pytanie jest nieprecyzyjne, może "uzupełnić luki" własną odpowiedzią. W praktyce oznacza to stworzenie treści, która wygląda poprawnie, ale nie ma pokrycia w rzeczywistości.

Na halucynacje szczególnie narażone są informacje bardzo nowe, specjalistyczne albo lokalne. często również występują one przy pytaniach dotyczących prawa, zdrowia czy finansów, oraz przy tworzeniu bibliografii.

Jak rozpoznać halucynację AI?

Nie zawsze jest to łatwe, ale istnieje kilka sygnałów ostrzegawczych.

Warto zachować ostrożność, gdy odpowiedzi nie zawierają źródeł, cytowane artykuły nie istnieją albo gdy tekst brzmi pewnie, ale nie podaje konkretów. 

Dobrą praktyką jest także sprawdzanie informacji w kilku niezależnych źródłach. Dotyczy to szczególnie tematów związanych ze zdrowiem, bezpieczeństwem lub finansami.

Podsumowanie 

Choć technologia AI może znacznie ułatwiać codzienne działania, wymaga od użytkowników ostrożności i krytycznego podejścia do otrzymywanych odpowiedzi.

Warto pamiętać, że nawet najbardziej zaawansowane narzędzia nie są nieomylne. Umiejętność weryfikacji informacji i świadome korzystanie z technologii pozostają jednymi z najważniejszych elementów cyberbezpieczeństwa.

Cykl porad o bezpieczeństwie w Internecie powstał z inicjatywy Biura Cyfryzacji i Cyberbezpieczeństwa Urzędu Miasta Poznania. Wszystkie artykuły z cyklu znajdziesz w Bazie wiedzy na Poznan.pl. 

Zachęcamy do obserwowania Infoteki, żeby nie przegapić kolejnych porad i wielu innych, ciekawych informacji z Poznania. 

KK