AI nám může pomáhat. Ale co jí vlastně svěřujeme a čemu věříme?

Umělá inteligence nám dnes pomáhá s prací, učením, hledáním informací i každodenními rozhodnutími. Dokáže vysvětlit složité téma, poradit s formulací e-mailu nebo nám nabídnout nový pohled na problém. A právě proto s ní někdy sdílíme mnohem víc, než bychom původně zamýšleli.

Dva nedávné články ukazují, proč je dobré se u používání AI na chvíli zastavit. A ne, určitě nechceme AI dehonestovat, vnímáme její hodnotu, užitečnost i efekt masivního pokroku, kterého můžeme díky nástrojům AI v různých sférách docílit. Pro nás uživatele, ať už jsme rodiče nebo děti, je ale zapotřebí vnímat i její (či naše) hranice.

Co všechno o nás AI ví?

Podle průzkumu agentury STEM/MARK, o kterém informuje Aktuálně.cz, sdílí čtyři z deseti uživatelů AI také citlivé informace. Jde například o údaje týkající se zdraví, psychického stavu, rodiny, vztahů nebo financí. Průzkum ukazuje ještě jednu zajímavou věc: přestože lidé AI svěřují osobní informace, jen 31 % uživatelů má pocit, že je zná velmi dobře nebo poměrně dobře.

Když AI postupně sdělujeme informace z různých oblastí života, může si z nich vytvořit mnohem podrobnější obraz o tom, kdo jsme, co řešíme a co nás trápí. Neznamená to, že AI automaticky všechny naše informace zneužije. Znamená to ale, že bychom měli přemýšlet, co do ní skutečně potřebujeme zadávat.

A podobně důležité je to také u dětí. Výzkum Nadace O2 a agentury NMS mezi 1 700 dětmi ve věku 8–15 let ukazuje, že 60 % dětí ve věku 12–15 let používá AI také jako rádce, kterému se svěřují. A 76 % dětí, které AI používají, věří jejím informacím a často si je dál neověřuje. AI tak pro děti není jen nástrojem na úkoly nebo hledání informací. Stává se také někým, na koho se obracejí, když potřebují radu. O to důležitější je mluvit s nimi o tom, co AI skutečně umí, co jí svěřovat a proč její odpovědi nemusí být vždy správn

Když AI působí přesvědčivě, ale její rada může být nebezpečná

Ještě závažnější příklad přináší Deník. Článek popisuje případ 31leté ženy s epilepsií, jejíž rodiče žalují společnost OpenAI. Podle žaloby jí ChatGPT pomáhal sestavit plán postupného vysazování léku na epilepsii, aniž by změnu doporučil její lékař. Chatbot ji měl také podporovat v tom, aby plán před lékaři tajila. Žena následně zemřela na náhlé úmrtí při epilepsii.

Je důležité dodat, že jde o tvrzení uvedená v žalobě a soud zatím nerozhodl o odpovědnosti společnosti. Případ ale otevírá zásadní otázku: Co se stane, když začneme odpovědím AI důvěřovat natolik, že podle nich jednáme i v situacích, které vyžadují odborníka?

AI totiž může odpovídat sebevědomě, přívětivě a velmi přesvědčivě. To ale samo o sobě neznamená, že má pravdu. Tady samozřejmě musíme zmínit fakt, že technologické společnosti usilovně pracují a dokonalují AI nástroje tak, aby dokázaly detekovat závažné, nebezpečné a rizikové situace, ve kterých se může uživatel nacházet, a uzpůsobili tomu i odpovědi. Nicméně nejedná se o ojedinělý případ, kdy se dospělý či dítě rozhodlo jednat dle AI a jejichž jednání mělo fatální dopad. Další otázka pro zamyšlení zní, kdo tedy nese odpovědnost za následné činy uživatele?

Jak tedy AI používat zdravě a bezpečně?

Nemusíme se AI vyhýbat. Potřebujeme spíš vědět, kde nám může být užitečným pomocníkem a kde už její odpovědi nestačí.

• Nesdílíme zbytečně citlivé informace. Do konverzace nevkládáme hesla, identifikační údaje, celé zdravotní dokumentace ani informace o dalších lidech, které nemusíme sdílet.
• Odpovědi AI ověřujeme. Zvlášť pokud se týkají zdraví, bezpečnosti, práva nebo důležitých životních rozhodnutí.
• AI nepovažujeme za odborníka. Může nám pomoci zorientovat se v tématu nebo připravit otázky pro odborníka, ale nenahrazuje jeho vyšetření ani doporučení.
• Všímáme si, jak na nás komunikace působí. AI může být příjemným partnerem pro přemýšlení, ale není člověkem, který nás skutečně zná, rozumí našemu životu a nese odpovědnost za svá doporučení.
• U dětí nezůstáváme jen u zákazů. Mluvíme s nimi o tom, co AI umí, co neumí, jak poznat její limity a proč není dobré svěřovat jí úplně všechno.

Děti a AI: co jí svěřit, čemu věřit a kdy zpozornět?

Právě tomu se věnujeme také v našem webináři s odborníkem na kyberbezpečnost Jakubem Luptovcem: Děti a AI: co jí svěřit, čemu věřit a kdy zpozornět.

Společně se bavíme o tom, jak AI funguje a proč někdy odpovídá nepřesně nebo si informace domýšlí. Ukazujeme si, jak s dětmi mluvit o důvěryhodnosti odpovědí, soukromí a osobních údajích, co je vhodné AI svěřovat a co už ne. Věnujeme se také tomu, jak AI ovlivňuje dětské přemýšlení, učení a vztahy a kdy je namístě zpozornět. Registrujte se nebo se mrkněte na záznam.