AI sa vie pomýliť aj vymýšľať

Prečo sa AI mýli

Chatbot zvyčajne nehľadá odpoveď v encyklopédii. Skladá text zo slov, ktoré k sebe pravdepodobne patria – podľa obrovského množstva textov, z ktorých sa učil. Väčšinou to vyjde dobre. Keď však niečo nevie, nemusí to spoznať. Namiesto „neviem“ potom môže napísať niečo, čo len znie správne: meno, číslo, citát, názov knihy alebo odkaz.

Tomu sa hovorí halucinácia. A chatbot ju napíše rovnako sebaisto ako pravdu.

Firmy, ktoré chatboty vyrábajú, to samy priznávajú. V podmienkach píšu, že odpovede nemusia byť presné a treba si ich overiť. Jedna z nich varuje, že odpoveď môže byť chybná, aj keď vyzerá presne, pretože je plná podrobností. Chatbot tiež nemusí poznať najnovšie informácie – napríklad dnešnú otváraciu dobu alebo včerajší výsledok zápasu.

Ako AI používať múdro

• Na čo sa hodí: vysvetliť učivo inými slovami, vymyslieť otázky na precvičovanie, poradiť s osnovou alebo skontrolovať tvoj vlastný text.
• Čo vždy over: mená, letopočty, čísla, citáty a zdroje. Tam chyba najviac vadí a najťažšie sa spozná.
• Zdroj musíš nájsť ty. Keď chatbot uvedie knihu alebo článok, skús ich dohľadať v knižnici alebo na internete. Čo nenájdeš, do práce nepatrí.
• Nepíš do četu osobné veci: adresu, telefón, heslá ani fotky kamarátov. Jeden veľký prevádzkovateľ upozorňuje, že niektoré konverzácie čítajú aj ľudia, ktorí chatbota vylepšujú, a radí do četu nepísať dôverné informácie.
• Opýtaj sa učiteľa, či a ako smieš AI v úlohe použiť. A keď ju použiješ, povedz to.

Viac o triku „Falošný dôkaz“ nájdeš v Atlase trikov.