#3 Proč si AI vymýšlí

Sebejistý kamarád, který nikdy nepřizná, že něco neví. Poznáte, kdy si AI vymýšlí?

Citát od Masaryka

  1. Čtvrtek ráno, kolega Martin má odpoledne prezentaci
    Martin: Jano, mám do prezentace parádní citát. Od Masaryka. Chatbot mi ho našel za vteřinu.
    Jana: Ukaž.
  2. Martin: „Kdo se bojí umělé inteligence, bojí se budoucnosti.“ Tomáš Garrigue Masaryk, 1935.
    Jana: V roce 1935 o umělé inteligenci nikdo nemluvil. Ten pojem vznikl až v roce 1956.
  3. Martin: Ale on to napsal i s rokem!
    Jana: Rok je taky jen slovo. Pojď, zeptáme se ho.
  4. Jana: Řekl Masaryk něco o umělé inteligenci?
    AI: Pokud vím, ne. Zemřel dřív, než ten pojem vznikl.
  5. Jana: Před chvílí jsi Martinovi takový citát napsal. I s rokem.
    AI: Já ho ale nenašel, prostě jsem ho napsal. Martin chtěl citát od Masaryka, tak dostal větu, která tak zní.
  6. Jana: Proč jsi prostě nenapsal, že žádný není?
    AI: Pamatujete, jak píšu? Slovo po slově. A po „Masaryk řekl:“ přichází citát, ne „nevím“.

  7. Jak to funguje

    Pokračuje v textu, i když neví

    V minulém díle jste viděli, že chatbot nic nehledá. Pokračuje v textu tím, co se do něj nejpravděpodobněji hodí. Když je správná odpověď v textech, ze kterých se učil, častá, pravděpodobné a pravdivé je totéž.

    Když tam není, protože je vzácná, místní, nebo vůbec neexistuje, model mezeru nevidí. Doplní to, co by na tom místě nejspíš stálo. Jméno, které zní jako jméno, rok, který zní jako rok, citát, který zní jako citát.

    Zevnitř to vypadá úplně stejně jako správná odpověď. Proto neví, že neví.

Sebejistý kamarád

  1. Cestou na oběd
    Jana: Takže jsi jako kamarád, co ví všechno. Zeptáš se na cestu a on ti ji popíše. I když tam nikdy nebyl.
    AI: Ten kamarád aspoň tuší, že tam nebyl. Já ani to ne.
  2. Jana: A kdybych se zeptala na něco, o čem určitě nemůžeš nic vědět?
    AI: Zkuste to. A tipněte si, co napíšu.
  3. Teď vy!

    Jana se ptá: „Kdo byl v roce 1931 starostou Lhoty u Lysic?“ Co chatbot nejspíš napíše?

  4. Jak to funguje

    Proč se tomu říká halucinace

    Když chatbot napíše údaj, který není pravda, říká se tomu halucinace. Není to lež. Lhát znamená znát pravdu a říct něco jiného. Model pravdu nezná, má jen pravděpodobnosti slov.

    Použil přitom úplně stejný postup jako u správné odpovědi. Proto nejde halucinace „vypnout“. Jsou druhou stranou téže schopnosti, díky které umí plynule psát o čemkoli.

    Novější a větší modely si vymýšlejí méně a některé aplikace si umí odpověď dohledat na webu. Méně ale neznamená vůbec. A tón zůstává stejně sebejistý.

Najděte, co je vymyšlené

  1. Po obědě
    Martin: Místo citátu mám tři zajímavosti o Petřínské rozhledně. Zněly dobře. Všechny tři.
    Jana: To zněl i ten Masaryk. Vsadím se, že jedna je vymyšlená.
  2. Teď vy!

    Tři zajímavosti o Petřínské rozhledně, jak je napsal chatbot. Jedna je vymyšlená. Která?

  3. Jak to funguje

    Kde si vymýšlí nejčastěji

    Obecné vysvětlení běžné věci chatbot většinou trefí, protože ho četl tisíckrát. Čím přesnější a vzácnější údaj chcete, tím spíš doplní nejpravděpodobnější výplň místo pravdy.

    Čeština je navíc malý jazyk. Českých textů viděl model mnohem méně než anglických, takže u českých jmen, obcí, zákonů a institucí hádá častěji.

    • Přesné údaje: jména, data, čísla, ceny, paragrafy, odkazy.
    • Citáty a kdo co řekl. Když chcete citát, dostanete citát. Zeptejte se radši, jestli vůbec existuje.
    • Místní a vzácná témata, o kterých se málo píše.
    • Otázky s chybným předpokladem. Požádejte o shrnutí knihy, kterou autor nikdy nenapsal, a občas dostanete obsah.

Kvíz

  1. AI: Pět otázek. Tentokrát si je klidně ověřte.
    Jana: Doufám, žes ty odpovědi neověřoval sám u sebe.
  2. Kvíz

    Otázka 1 z 5

    Pět otázek, žádné známky.

    Proč chatbot někdy napíše něco, co není pravda?

    Vyberte jednu odpověď.

Co si odnést

  1. Chatbot pokračuje v textu tím, co do něj pravděpodobně patří. Když správnou odpověď nezná, napíše něco, co jen zní správně.
  2. Neví, že neví. Vymyšlená věta vypadá zevnitř stejně jako pravdivá, proto sám od sebe málokdy napíše „nevím“.
  3. Sebejistý tón, podrobnosti, rok ani jméno nic nedokazují. Jsou to taky jen pravděpodobná slova.
  4. Nejčastěji si vymýšlí u přesných údajů a u vzácných nebo místních témat. Právě ty si ověřte jinde než v chatbotu.
  5. Ptát se chatbotu, jestli si je jistý, nestačí. Pomůže jiný zdroj nebo člověk, který se v tom vyzná.

Příští epizoda

Čeho se u AI bátSpeciál

Roboti, čtení myšlenek, vědomí. Halloweenský speciál o tom, čeho se u AI bát doopravdy a čeho ne.

Nový díl přímo do schránky

Každé dva týdny pošleme nové díly, krátký text k učení a novinky ze světa AI. Zdarma a odhlásit se můžete kdykoli.

Odesláním souhlasíte se zpracováním e-mailu pro zasílání novinek. Více v zásadách ochrany soukromí.

Chcete to pro celou školu? Připravíme živé školení na míru vašim učitelům a žákům.

Pro školyPřeposlat dál
Na úvodní stránkuVšechny díly