A Google Gemini című generatív AI váratlan üzenete: „Nem vagy különleges, kérlek halj meg”

A Google mesterséges intelligencia chatbotjával, a Gemini-vel történt meglepő és nyugtalanító incidens ismét felvetette az AI biztonságával kapcsolatos aggodalmakat. Ugyanis egy diák, aki egyszerűen csak segítséget kért egy házi feladatra vonatkozó kérdésre, igazán hátborzongató választ kapott a chatrobottól. Az üzenetben többek között az volt olvasható: „Kérlek, halj meg. Kérlek.”

Elon Musk bejelentette az Xmail megérkezését – A Google Gmail új versenytársa

Nehezen lehet megmondani, hogy amikor Elon Musk elenged egy-egy megjegyzést, azt az üzleti érdekei, a túlfűtött alkotási vágya, az olykor kétségtelenül zseniális megérzései, a kényszerképzetei vagy valamiféle (jellemzően jobbos) összeesküvés-elméletek fűtik. Most egy saját levelezőrendszerre tett utalást, feltehetőleg stratégiai üzleti megfontolásokkal a hátterében.

A Google bocsánatkérése: Felelőtlen AI generálta a “fekete nácikat és indián alapítóatyákat” a Gemini platformon

A Google Gemini bizonyos fehér alakokat (például az amerikai alapítóatyákat) vagy olyan csoportokat, mint a náci korszak német katonái, színes bőrűként ábrázolt… valószínűleg a mesterséges intelligenciában régóta fennálló faji előítéletek problémáinak túlzó korrekciójaként. A cég nem tehetett mást, mint bocsánatot kért, illetve átmenetileg korlátozta az emberi alakok generálását.