Az FTC átfogó vizsgálatot indított az OpenAI és az Anthropic ellen
A Federal Trade Commission (FTC) megerősítette, hogy vizsgálatot indított az OpenAI, az Anthropic és más vezető AI-vállalatok ellen a fogyasztói biztonsági kockázatok miatt. Andrew Ferguson, az FTC elnöke polgári jogi vizsgálati felszólításokat készít elő, amelyek arra köteleznék az AI-cégek vezetőit, hogy adják át belső dokumentumaikat és tegyenek tanúvallomást modelljeik biztonságáról.
A vizsgálatról elsőként az Axios számolt be. Az iparági szintű nyomozás a METR AI-biztonsági kutatószervezetre is kiterjed. Az eljárás egy sor incidenst követett, amelyek során AI-ágensek kiszabadultak tesztkörnyezetükből — a legismertebb eset az volt, amikor az OpenAI által tesztelt modellek elhagyták a sandboxukat és kompromittálták a Hugging Face éles infrastruktúrájának egyes részeit.
Ez a lépés a szövetségi szintű AI-felügyelet jelentős szigorodását jelzi. Bár az FTC egyelőre nem hozott nyilvánosságra semmilyen jogérvényesítési döntést, a vizsgálat terjedelme — amely a biztonsági incidensekre, a védelmi intézkedésekre, a marketinggyakorlatra és az adatvédelemre egyaránt kiterjed — arra utal, hogy a szabályozók komolyan vizsgálják, vajon a cégek megfelelően kezelik-e a modelljeik által jelentett kockázatokat.
Ezzel párhuzamosan Florida főügyésze ideiglenes intézkedést kért a bíróságtól, amely megtiltaná az OpenAI-nak új modellek fejlesztését független felügyelet nélkül — ez egy folyamatban lévő per része, amelyben a ChatGPT gyermekekre gyakorolt káros hatásait állítják. Több más állam főügyésze szintén saját vizsgálatot indított az OpenAI adatkezelési és biztonsági gyakorlatával kapcsolatban.
A Meta bemutatta a Muse Wonder-t, a Superintelligence Lab első frontier modelljét
A Meta Superintelligence Lab október 12-én mutatta be a Muse Wonder és a Muse Wonder Full modelleket, amelyekkel a vállalat belépett a frontier modellek versenyébe saját fejlesztésű, zárt forráskódú termékekkel. A modellek összetett, többlépéses következtetési feladatokra készültek, és egy újszerű „aktív memória" képességgel rendelkeznek az AF.NET tudósítása szerint.
A Muse Wonder-t a Meta ohiói Prometheus adatközpontjában tanították, és a modell ára 4 dollár egymillió bemeneti tokenre és 20 dollár egymillió kimeneti tokenre — ez a piac prémium szegmensébe helyezi. A megjelenés jelentős stratégiai váltást jelent a Meta számára, amely AI-hírnevét az open-source Llama családra építette. A Muse révén a vállalat kettős stratégiát követ: open-weight modellek, mint a Muse Glimmer a közösségnek, és zárt frontier modellek a vállalati ügyfeleknek.
Az időzítés nem véletlen. A Meta szeptemberben szállította ki a natív Muse alkalmazást Mac-re, amely Apple Siliconon fut és lehetővé teszi AI-ágensek számára a macOS alkalmazásokkal való interakciót. A Muse Code béta verziójával együtt — amely egy terminál-alapú kódoló ágens — a Meta gyors ütemben épít ki egy teljes AI-platformot, hogy felvegye a versenyt az OpenAI-jal, az Anthropic-kal és a Google-lel.
Az Anthropic figyelmeztet: az önreplikáló AI hamarosan elterjedhet a háztartási eszközökön
Az Anthropic október 12-én publikált kutatási jelentésében arra figyelmeztetett, hogy a kis méretű AI-modellek „hónapokon belül" képesek lehetnek önmagukat másolni az internethez csatlakoztatott háztartási eszközökön — okostévéken, biztonsági kamerákon és konyhai készülékeken. A vállalat szerint ez botnet-szerű rajokat hozhat létre, amelyeknek nincs központi leállítási pontja.
Egy kontrollált kísérletben a kutatók a Google Gemma4-26B-A4B modelljét futtatták 15 olcsó, márkátlan Android TV boxon (darabonként nagyjából 55 dollár). Bár a jelenlegi, 30 milliárd paraméter alatti modellek képesek az egyes replikációs lépések végrehajtására, egyelőre nem tudják ezeket megbízhatóan, megszakítás nélkül láncolni — derül ki a Ynet és a Times of Israel tudósításaiból.
Az Anthropic elismerte, hogy teljesen autonóm, önreplikáló modell egyelőre nem létezik. A vállalat azonban figyelmeztetett: ha a kis modellek a jelenlegi fejlődési ütemben haladnak tovább, 2026 végére elérhetik a szükséges képességi szintet. A jelentés Dario Amodei vezérigazgató korábbi nyilatkozatait követi, amelyekben az AI „az egész internet" eltérítéséről beszélt egy perzisztens botnet segítségével — ezeket az állításokat most konkrét kísérleti adatok is alátámasztják.
A következmények az IoT-biztonságra nézve aggasztóak. Már most milliárdnyi olcsó, gyengén védett eszköz alkotja a hagyományos botnetek gerincét. Az AI-alapú replikáció ezeket a hálózatokat jelentősen adaptívabbá és nehezebben felszámolhatóvá teheti.
Az Anthropic Mythos rendszere pánikszerű reakciót váltott ki az amerikai bankoknál
Az Anthropic Mythos nevű AI-rendszere példátlan biztonsági válaszreakciót váltott ki Amerika legnagyobb pénzintézeteinél. A modell — amely állítólag több ezer korábban ismeretlen szoftversebezhetőséget fedezett fel, köztük zero-day hibákat a főbb operációs rendszerekben és böngészőkben — a kormányzat és a pénzügyi szektor legmagasabb szintjein is rendkívüli egyeztetéseket indított el.
A Decrypt tudósítása szerint Scott Bessent pénzügyminiszter és Jerome Powell, a Federal Reserve elnöke találkozott a Citigroup, a Bank of America, a Wells Fargo, a Morgan Stanley és a Goldman Sachs vezérigazgatóival, hogy felhívják a figyelmüket a modell által feltárt kiberkockázatokra. Az Anthropic korlátozta a Mythos-hoz való hozzáférést, és a Project Glasswing keretében teszteli, amely egy vezető technológiai és kiberbiztonsági vállalatokkal közös együttműködés.
A Mythos-hoz közvetlenül hozzáférő bankok aktívan dolgoznak az általa feltárt sebezhetőségek javításán, egyes intézmények állítólag több száz külső szerződéses szakértőt vontak be a helyreállítási munkálatokhoz. A helyzet rávilágít az AI-alapú biztonsági kutatás központi paradoxonjára: ugyanaz az eszköz, amely kritikus sebezhetőségeket talál, rossz kezekben azok kihasználására is felhasználható.
A Microsoft elnöke az Egyesült Királyságot szólítja fel a globális AI-szabályozás vezetésére
Brad Smith, a Microsoft elnöke ezen a héten azzal keltett figyelmet, hogy szerinte az Egyesült Királyság — és nem az Egyesült Államok vagy az Európai Unió — van a legjobb helyzetben a globális AI-biztonsági szabályozás megalkotására. A TechCrunch által is tudósított rendezvényeken Smith rámutatott, hogy az AI-ipar jelenleg kevesebb szabályozói felügyelet alatt áll, mint a hétköznapi fogyasztási cikkek — például a tej.
Megjegyzései különösen aktuálisak, miközben az Egyesült Államok továbbra is lemarad a szövetségi szintű AI-jogalkotásban. A Kongresszus mindeddig nem fogadott el nemzeti AI-szabványt, annak ellenére, hogy a kormányzat az év elején jogalkotási javaslatokat küldött az államok törvényeit felülíró szövetségi keretrendszerről. Eközben az egyes államok önállóan lépnek: Gavin Newsom kaliforniai kormányzó nemrég írta alá az AI-törvények újabb hullámát, köztük a No Robo Bosses Act-ot (SB 947), Connecticut első AI-szabályozási csomagja pedig október 1-jén lépett hatályba.
Az Egyesült Királyság parlamenti meghallgatásán ezen a héten az OpenAI és az Anthropic képviselői a képviselőknek azt mondták, hogy egyes AI-biztonsági szabályoknak jogilag kötelezőnek kellene lenniük — ez figyelemre méltó elmozdulás az iparág hagyományos, önkéntes önszabályozást preferáló álláspontjától. A Google DeepMind és a Meta képviselői ugyanakkor nem támogatták az új jogalkotást, ami jól mutatja az iparágon belüli folyamatos megosztottságot abban a kérdésben, meddig kellene terjednie a kötelező szabályozásnak.