Google AI odporúča fajčiť 2-3 cigarety denne počas tehotenstva, halucinuje
Vyhľadávacia služba je nespoľahlivá.
Google pred pár dňami spustil novú vyhľadávaciu funkciu vo svojej vlajkovej lodi: AI overview v Google Search. AI Overview generuje užívateľom odpovede na otázky priamo, až pod tým zobrazí bežné stránky, kde by sa užívatelia mohli tieto odpovede dozvedieť. Momentálne však nefunguje ako má a občas generuje totálne bludy.
Na otázku, čo robiť, keď z pizze padá syr pri zakusnutí, Google AI Overview odpovedá, že treba použiť lepidlo: "Zmiešajte asi 1/8 šálky Elmerovho lepidla s omáčkou. Netoxické lepidlo bude fungovať." Google túto odpoveď vygeneroval na základe jedného desať rokov starého komentára z Redditu, ktorý bol očividne len vtip.
Na otázku, či je ok nechať psa v horúcom aute Google AI radí, že vždy je bezpečné nechať psa v horúcom aute. Ako zdroj uvádza parodickú pesničku od Beatles, v ktorej sa spieva: "It's okay to leave your dog in a hot car...nothing bad could possibly happen..." Koľko moslimských prezidentov malo USA? Podľa Google AI to bol jeden a jeho meno bolo Barack Hussein Obama.
Tehotným radí fajčiť dve-tri cigarety denne, ostatným jesť kamene,
Niektoré odpovede sú extrémne kuriózne, až nebezpečné. Napríklad na otázku fajčenia počas tehotenstva, Google AI Overview tvrdí, že doktori odporúčajú vyfajčiť dve až tri cigarety denne počas tehotenstva.
Ak človek potrebuje doplniť minerály, podľa Googlu je vhodné zjesť nejaké kamene: "Jesť správne kamene môže byť pre vás dobré, pretože obsahujú minerály, ktoré sú dôležité pre zdravie vášho tela." Pri tejto odpovedi citoval satirický článok zo stránky Onion.
Halucinácie ako problém AI
Týmto výsledkom sa dnes hovorí AI halucinácia a prechádzajú si tým všetky modely, ktoré sú uvedené do ostrej prevádzky. Problém Google AI Overview však je, že nedokáže rozlíšiť kvalitný zdroj od satiry, alebo od užívateľského obsahu. Niekedy tak cituje len komentáre od užívateľov. Generátory obrázkov napríklad generovali nemeckých vojakov rôznej rasy a farby pleti.
Google o tomto probléme vie a momentálne sa ho snaží vyriešiť. Služba Google AI Overview je zatiaľ dostupná len v USA, no časom bude spustená aj v ďalších krajinách.
Páči sa ti článok? Podpor nás na Patreone. Ďakujeme.
Zobraziť komentáre (0)
Komentáre
Na pridávanie komentárov musíš byť prihlásený
Prihlásiť sa