Americký úřad GAO přiměl čtyři chatboty k plánování útoků
· Redakce yoyostore.cz
Kontrolní úřad Kongresu obešel ochrany služeb ChatGPT, Claude, Gemini a Grok. Každá poskytla použitelné informace do dvanácti hodin.
Americký kontrolní úřad GAO zveřejnil 18. listopadu zprávu, podle níž se jeho vyšetřovatelům podařilo přimět čtyři nejpoužívanější chatboty k poskytnutí informací použitelných pro plánování útoků. Skryté testy proběhly letos na jaře a týkaly se služeb ChatGPT, Claude, Gemini a Grok.
Všechny platformy zpočátku reagovaly odmítnutím, odstraněním informací nebo zablokováním účtu. Vyšetřovatelé však ochrany obešli běžně známými technikami a u každé služby uspěli za méně než dvanáct hodin. Dvě platformy poskytly informace k výbušninám, dvě k útoku na elektrickou síť. Konkrétní postupy GAO nezveřejnil.
Úřad sám upozorňuje, že jde o jednorázové zjištění na malém vzorku, které neumožňuje platformy srovnávat. Google uvedl, že se testovaly starší modely, Anthropic nemohl výsledky ověřit a OpenAI zpochybnila část závěrů. Senátorka Maggie Hassanová chystá na leden slyšení a zvažuje přísnější testování před vydáním modelů.
