Takovou „chytrost“ umělých systémů nikdo nečekal, říká odborník

Zastavte vývoj umělé inteligence, jde to moc rychle, vyzvaly včera v prohlášení světové hvězdy v IT včetně Elona Muska. Chtějí, aby svět pro nový fenomén nejprve stanovil pravidla. Jaká? A proč se máme umělé inteligence bát?

Hostem Ptám se já byl odborník na informační technologie a spoluautor podcastu Kanárci v síti Josef Holý.

Ve středu obletěla svět zpráva, která nejspíš nenechala v klidu ani úplné laiky v IT oboru. Přední světoví odborníci na umělou inteligenci (AI) vyzvali k pozastavení jejího vývoje. Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence ve svém otevřeném dopise požadují alespoň půlroční pauzu s ohledem na možná „hluboká rizika pro společnost a lidstvo“.

S tím, jak jde vývoj rychle kupředu, nervozita mezi odborníky a vědci roste. Jen za jeden týden bylo představeno hned několik převratných novinek, včetně velkého jazykového modelu GPT-4. V řadě ohledů může tato umělá inteligence nečekaně dobře soupeřit s lidmi: třeba složitou zkoušku pro právníky zvládne lépe než 90 % lidských řešitelů.

Mezi signatáři výzvy jsou i podnikatel Elon Musk, spoluzakladatel firmy Apple Steve Wozniak, šéf společnosti Stability AI Emad Mostaque nebo prezidentka neziskové organizace Bulletin of the Atomic Scientists Rachel Bronsonová. Šestiměsíční pauzu by podle nich měl svět využít hlavně k tomu, aby se dohodl na bezpečnostních pravidlech a zavedl postupy vedoucí ke smysluplné a transparentní regulaci tohoto rychle se rozvíjejícího odvětví.

V čem může umělá inteligence změnit náš svět? Jaká pravidla pro její užívání jsou potřeba? A máme se obávat rychlého rozvoje umělé inteligence?

---

Ptám se já. Rozhovory s lidmi, kteří mají vliv, odpovědnost, informace.

Sledujte na Seznam Zprávách, poslouchejte na Spotify, v Apple Podcasts a dalších podcastových aplikacích nebo na Podcasty.cz.

Archiv všech dílů najdete tady, ostatní podcasty Seznam Zpráv tady. Své postřehy, připomínky nebo tipy nám pište prostřednictvím sociálních sítí pod hashtagem #ptamseja nebo na e-mail audio@sz.cz.