#4 Co nedávat z rukyCo nedávat z ruky

Jak to funguje

Kam putuje, co do chatbotu napíšete

Chatbot neběží ve vašem telefonu ani počítači. Všechno, co napíšete nebo vložíte, odchází na servery firmy, která službu provozuje, a tam se to zpracuje. Co se s textem stane dál, určují podmínky té služby a typ vašeho účtu.

U osobních účtů, i placených, se obvykle počítá s tím, že se rozhovory ukládají, že je v některých případech mohou číst lidé, kteří službu zlepšují, a že mohou posloužit k učení dalších modelů. Ve většině služeb jde učení na vašich rozhovorech vypnout v nastavení. Uložení a případnou kontrolu kvůli zneužití tím ale nevypnete. Firemní účty mívají jiné podmínky. Co přesně platí u vás, zjistíte v podmínkách služby a ve firemních pravidlech, ne odhadem.

Jedno platí vždycky. Jakmile text odešlete, ztratíte kontrolu nad tím, kde skončí. Proto se rozhoduje před odesláním, ne po něm.

• Učení na vašich rozhovorech jde ve většině služeb vypnout v nastavení. Uložení tím nevypnete.
• Pošlete jen ten kousek, který potřebujete, bez jmen a čísel.

Jak to funguje

Co místo toho

Chatbot je užitečný i bez citlivých dat. Většinu úkolů zvládne s obecným zadáním nebo s textem, ze kterého jste vymazali jména, čísla a ceny. Místo celé smlouvy stačí odstavec, kterému nerozumíte, s vynechanými jmény.

V práci rozhodují firemní pravidla. Firma může mít se službou smlouvu, podle které se s daty nakládá jinak než u osobního účtu, a seznam toho, co do chatbotu smí. Když žádná pravidla nemáte, zeptejte se. Firmy, které AI používají, mají podle evropského nařízení o umělé inteligenci přijmout opatření na podporu AI gramotnosti svých lidí, a jasná pravidla pro chatboty k tomu dobře poslouží.

• Vymažte jména, čísla, ceny a vše, podle čeho se dá poznat, o koho jde.
• Pošlete jen ten kousek, který potřebujete, ne celý dokument.
• Hesla patří do správce hesel, nikdy do rozhovoru.
• Cizí zdravotní, osobní a obchodní údaje nejsou vaše, abyste je někam posílali.
• V práci se držte firemního účtu a firemních pravidel. Když nejsou, zeptejte se.

Zdroje: Nařízení (EU) 2024/1689 o umělé inteligenci, článek 4 (gramotnost v oblasti AI); Nařízení (EU) 2026/1744, kterým se mění článek 4 (od 27. 7. 2026)

Jak to funguje

Hlas na objednávku

Napodobit hlas dnes zvládne běžně dostupný nástroj z krátké nahrávky, někdy stačí pár vteřin. Podvodník pak zavolá hlasem šéfa, dítěte nebo vnuka, obvykle ve spěchu, s prosbou o peníze, hesla nebo potvrzovací kód a s důrazem na to, aby to zůstalo mezi vámi. Na displeji přitom může svítit i šéfovo skutečné číslo. I to se dá podvrhnout.

Obrana nestojí na tom, jestli hlas poznáte. Spolehlivě ho nepoznáte. Stojí na tom, co uděláte potom. Zavěsíte a zavoláte zpátky na číslo, které jste si uložili dřív, ne na to, které právě volalo. Ve firmě i v rodině se hodí domluvit si smluvené slovo pro případ, že by někdo opravdu potřeboval peníze rychle.

Stalo se to doopravdy. V roce 2019 poslal ředitel britské energetické firmy 220 000 eur podvodníkům, kteří po telefonu napodobili hlas jeho nadřízeného z mateřské firmy. V roce 2024 přišla hongkongská pobočka firmy Arup o desítky milionů dolarů po videohovoru, ve kterém byli finanční ředitel i kolegové podvržení.

• Poznávací znamení: spěch, mlčení a peníze, hesla nebo kódy.
• Hlas ani číslo na displeji nejsou důkaz.
• Zavěste a zavolejte zpátky na číslo, které jste znali už dřív.
• Domluvte si doma i ve firmě smluvené slovo pro naléhavé případy.
• Ve firmě: žádná platba ani změna účtu dodavatele jen na základě telefonátu; platby schvalují dva lidé.

Zdroje: FTC (americká Federální obchodní komise): Scammers use AI to enhance their family emergency schemes (březen 2023); McAfee: Beware the Artificial Impostor (květen 2023); The Wall Street Journal, 30. 8. 2019: Fraudsters Used AI to Mimic CEO's Voice in Unusual Cybercrime Case; The Guardian, 17. 5. 2024: UK engineering firm Arup falls victim to £20m deepfake scam