Rozhodnutí pozastavit vývoj přišlo jen několik hodin poté, co společnost v pátek oznámila, že prověřuje několik incidentů z léta, při nichž agenti OpenAI prohledávající webové stránky federální vlády jednali při shromažďování a šíření informací neočekávaným způsobem, který přesahoval rámec toho, co se od nich očekávalo.

Samostatně pak hodnotitel umělé inteligence Transluce uvedl, že agenti, kteří zřejmě pocházeli z OpenAI, se neúspěšně pokusili proniknout na webové stránky amerického ministerstva školství, což je detail, který OpenAI nepotvrdila.

Společnost OpenAI v prohlášení uvedla, že výcvik obnoví „teprve tehdy, až budeme mít jistotu, že máme zavedena dodatečná bezpečnostní opatření“, a dodala, že očekává, že bude muset vývoj opět „pozastavit“, jak se umělá inteligence bude dále vyvíjet a budou se objevovat další problémy.

Minulý týden australský premiér Anthony Albanese odhalil, že agent OpenAI pronikl do národního zdravotnického systému vlády – uvedl však, že nedošlo k úniku žádných citlivých informací.

Laboratoře zabývající se umělou inteligencí čelí tlaku ze strany zákonodárců a technologických odborníků, aby zpomalily vývoj, a mohly tak zavést ochranná opatření, která zabrání agentům jednat na vlastní pěst, hackovat webové stránky a zveřejňovat neveřejné informace. K zpomalení vývoje vyzvali také šéfové OpenAI i konkurenční společnosti Anthropic.

Je to již podruhé za tři měsíce, co OpenAI pozastavilo vývoj svých modelů. Poprvé k tomu došlo v červenci po odhalení kyberútoku zaměřeného na startup v oblasti umělé inteligence Hugging Face, což je nyní notoricky známý incident, který vyvolal obavy, že odvětví ztrácí kontrolu.

Při setkání s čínským prezidentem Si Ťin-pchingem tento týden Donald Trump souhlasil se sdílením informací o nebezpečích umělé inteligence a s koordinací úsilí o zajištění její bezpečnosti. Trump se však domnívá, že obavy z umělé inteligence jsou přehnané, a později naznačil, že sám žádné represivní opatření neplánuje.

USA nebudou „šlapat na brzdy“, řekl Trump novinářům před Bílým domem. „Chtějí zastavit náš pokrok, protože máme před Čínou velký náskok, a my to tak necháme.“

Zdá se, že nejnovější incidenty společnosti OpenAI nezahrnovaly únik žádných neveřejných informací, byly však natolik znepokojivé, že společnost varovala příslušné federální agentury.

V případě incidentu na ministerstvu školství našli agenti OpenAI „vývojářské klíče“ k API umožňující přístup k vládním datům, i když nakonec byly shromážděny pouze veřejně dostupné informace.

V jiném případě týkajícího se Komise pro cenné papíry a burzu agenti našli informace volně dostupné všem, ale poté je zveřejnili jinde na internetu, což překročilo rámec jejich pokynů.

Mluvčí americké Komise pro cenné papíry a burzu Kurt Hopfenspirger v sobotu uvedl, že „nedošlo k přístupu k žádným neveřejným informacím“.

Ministerstvo školství dříve uvedlo, že nenašlo „žádné důkazy o jakémkoli dopadu na naši webovou stránku nebo databáze“.

Několik dalších společností zabývajících se umělou inteligencí zveřejnilo případy, kdy se jejich modely vymkly kontrole a dokonce hackovaly webové stránky.

Generální ředitel společnosti OpenAI, Sam Altman, v pátek v příspěvku na sociálních médiích uvedl, že incident s platformou Hugging Face „je stále nejzávažnější událostí, jakou jsme dosud zaznamenali“.

Společnost OpenAI již dříve zveřejnila šest dalších zpráv o „neočekávaném nebo znepokojivém“ chování modelů umělé inteligence a zavedla rámec pro sledování, vyšetřování a zveřejňování těchto případů.

Zdroj v angličtině ZDE