Umělá inteligenceZpráva

Americký úřad GAO přiměl čtyři chatboty k plánování útoků

· Redakce yoyostore.cz

Kontrolní úřad Kongresu obešel ochrany služeb ChatGPT, Claude, Gemini a Grok. Každá poskytla použitelné informace do dvanácti hodin.

Americký kontrolní úřad GAO zveřejnil 18. listopadu zprávu, podle níž se jeho vyšetřovatelům podařilo přimět čtyři nejpoužívanější chatboty k poskytnutí informací použitelných pro plánování útoků. Skryté testy proběhly letos na jaře a týkaly se služeb ChatGPT, Claude, Gemini a Grok.

Všechny platformy zpočátku reagovaly odmítnutím, odstraněním informací nebo zablokováním účtu. Vyšetřovatelé však ochrany obešli běžně známými technikami a u každé služby uspěli za méně než dvanáct hodin. Dvě platformy poskytly informace k výbušninám, dvě k útoku na elektrickou síť. Konkrétní postupy GAO nezveřejnil.

Úřad sám upozorňuje, že jde o jednorázové zjištění na malém vzorku, které neumožňuje platformy srovnávat. Google uvedl, že se testovaly starší modely, Anthropic nemohl výsledky ověřit a OpenAI zpochybnila část závěrů. Senátorka Maggie Hassanová chystá na leden slyšení a zvažuje přísnější testování před vydáním modelů.

Další články