AI se umí splést i vymýšlet

Proč se AI plete

Chatbot obvykle nehledá odpověď v encyklopedii. Skládá text ze slov, která k sobě pravděpodobně patří – podle obrovského množství textů, ze kterých se učil. Většinou to vyjde dobře. Když ale něco neví, nemusí to poznat. Místo „nevím“ pak může napsat něco, co jen zní správně: jméno, číslo, citát, název knihy nebo odkaz.

Tomu se říká halucinace. A chatbot ji napíše stejně sebejistě jako pravdu.

Firmy, které chatboty vyrábějí, to samy přiznávají. V podmínkách píšou, že odpovědi nemusí být přesné a je potřeba si je ověřit. Jedna z nich varuje, že odpověď může být chybná, i když vypadá přesně, protože je plná podrobností. Chatbot taky nemusí znát nejnovější informace – třeba dnešní otevírací dobu nebo včerejší výsledek zápasu.

Jak AI používat chytře

• Na co se hodí: vysvětlit látku jinými slovy, vymyslet otázky na procvičení, poradit s osnovou nebo zkontrolovat tvůj vlastní text.
• Co vždycky ověř: jména, letopočty, čísla, citáty a zdroje. Tam chyba nejvíc vadí a nejhůř se pozná.
• Zdroj musíš najít ty. Když chatbot uvede knihu nebo článek, zkus je dohledat v knihovně nebo na internetu. Co nenajdeš, do práce nepatří.
• Nepiš do chatu osobní věci: adresu, telefon, hesla ani fotky kamarádů. Jeden velký provozovatel upozorňuje, že některé konverzace čtou i lidé, kteří chatbota vylepšují, a radí do chatu nepsat důvěrné informace.
• Zeptej se učitele, jestli a jak smíš AI v úkolu použít. A když ji použiješ, řekni to.

Víc o triku „Falešný důkaz“ najdeš v Atlasu triků.