Čeho se u AI bátSpeciál

Jak to funguje

Proč se bojíme zrovna robotů

Většinu strachů z AI jsme se naučili z filmů. Vzbouřený robot, stroj, který čte myšlenky, počítač, který trpí. Jsou to dobré příběhy, a proto se drží. Chatbot, se kterým mluvíte, je přitom to, co jste viděli ve druhém díle. Odhaduje další slovo podle vzorů z textu. Sám od sebe nic nechce, dělá, co mu zadá člověk, nevidí nic než to, co mu napíšete, a jestli něco cítí, se nedá ani dokázat, ani vyvrátit. O pocitech píše proto, že o nich psali lidé v textech, ze kterých se učil.

Skutečné nebezpečí vypadá jinak a je nudnější. Modely postavené na stejném principu umí napodobit hlas z krátké nahrávky, poskládat video s cizí tváří a napsat podvodný e-mail bez jediné chyby. Ani jedno z toho neudělá AI sama od sebe. Udělá to člověk, který ji použije proti vám.

• Ve filmu je robot, který něco chce. A to nás může děsit.
• Ve skutečnosti je to ale člověk, který chce vaše peníze, hesla nebo data, a AI používá jako nástroj.

Jak to funguje

Čeho se bát doopravdy

Tři věci se dějí už teď. Dvě z nich stojí na stejném principu jako chatbot: model se naučil vzory z obrovského množství dat a vyrobí podle nich něco, co vypadá pravé. Hlas a tvář. Třetí je starší: co jednou napíšete na cizí server, už nemáte pod kontrolou.

Žádná z nich nevyžaduje genialitu. Nástroje jsou běžně dostupné a podvodník potřebuje jen vaše video ze sítí, vaše telefonní číslo nebo vaše heslo, které jste použili i jinde.

• Napodobený hlas: hovor „od dítěte“ nebo „od šéfa“, spěch, peníze. Co s tím, ukáže příští díl.
• Falešné video: známá tvář doporučuje investici, lék nebo e-shop. Obrana je ověřit si to u zdroje, ne ve videu.
• Uniklý rozhovor: co napíšete do chatbotu, může u některých služeb číst člověk, a může uniknout, když vám někdo ukradne účet. Obranou je nesdílet nic citlivého a používat dvoufázové přihlášení.

Zdroje: FTC (americká Federální obchodní komise): Scammers use AI to enhance their family emergency schemes (březen 2023); Europol: Facing reality? Law enforcement and the challenge of deepfakes (2022)

Jak to funguje

Deepfake, falešné video, které sedí

Deepfake je obraz nebo video, které model poskládal tak, aby ukazovalo člověka, jak dělá nebo říká něco, co nikdy nedělal. Potřebuje k tomu jen dost záběrů té tváře, a u lidí z televize, z politiky nebo ze sítí jich je spousta. Hlas doplní jiný model, kterému stačí krátká nahrávka. O něm bude příští díl.

Nejčastější použití není žert, ale podvod. Známá tvář ve videu doporučuje investici, zázračný lék nebo e-shop a pod videem je odkaz. Falešná videa českých moderátorů a lékařů kolují už několik let. Hledat chyby v obraze přestává fungovat. Ruce, rty i mrkání jsou rok od roku lepší.

Obrana nestojí na tom, jak video vypadá. Rozhoduje, jestli to ten člověk opravdu říká někde, kde to jste schopni ověřit. Na jeho webu, na jeho kanálu, v pořadu, ze kterého video údajně je. Když to tam není, není to on.

• Známá tvář, výjimečná nabídka, odkaz a spěch. Tahle čtveřice představuje podvod, ať video vypadá jakkoli.
• Nehledejte chyby v obraze. Hledejte, jestli to ten člověk říká na ověřitelném místě.
• Nepřeposílejte. Nahlaste video platformě a napište tomu, kdo vám ho poslal.
• Nikdy neklikejte na odkaz pod takovým videem. Když chcete produkt, najděte si ho sami.

Zdroj: Europol: Facing reality? Law enforcement and the challenge of deepfakes (2022)