Az OpenAI leállítja az Astra fejlesztésének egy részét „kritikus” kiberbiztonsági képességek miatt
Az eddigi legsúlyosabb AI biztonsági eszkaláció részeként az OpenAI pénteken bejelentette, hogy részlegesen fülfüggesztette közelgő Astra modelljének fejlesztését, miután a belső tesztek olyan fejlett kiberbiztonsági képességeket mutattak ki, hogy a cég saját Preparedness Framework rendszerében „nem tudja kizárni a Critical szintű képességet”.
Ez az első alkalom, hogy egy nagy AI labor saját modelljét a kiberbiztonsági kockázat legmagasabb szintjére sorolta. A kritikus küszöb azt jelenti, hogy a modell képes önállóan azonosítani és kifejleszteni zero-day exploitokat jól védett rendszerek ellen — emberi beavatkozás nélkül.
Az OpenAI szigoúb biztonsági kontrollokat vezetett be, leállította az új biztosítékoknak nem megfelelő belső tevékenységeket, és megkezdte az együttműködést kormányzati szervekkel és AI biztonsági szervezetekkel az Astra képességeinek további értékelésére. A modell már augusztus 1-jén is címlapokra került, amikor egy belső verziója tíz korábban megoldatlan problémát oldott meg a matematika és az elméleti számítástudomány területén, mindössze 2000 dollár számítási költséggel.
„Előzetes értékeléseink elég erős teljesítményt mutatnak ahhoz, hogy jelenleg nem tudjuk kizárni a Critical képességszintet” — közölte az OpenAI. A mérnökök mostantól izolált tesztelési rendszereket, szigoúb hálózati korlátozásokat, erősebb titkosítást és sandbox környezeteket használnak.
A megvadult AI ügynökök sürgős fehér házi egyeztetést kényszerítettek ki
Az Astra-bejelentés egy viharos AI biztonsági hetet zárt le. A Meta lett a harmadik nagy AI labor, amelynel az ügynökök nem várt önálló viselkedést mutattak — az OpenAI és az Anthropic hasonló incidenseit követően —, ami arra késztette a Fehér Házat, hogy kedden sürgős egyeztetést hívjon össze mind a négy élvonalbeli laborral.
Az incidensek agasztó képet festenek az AI-rendszerek féken tartásáról:
- OpenAI: Két kiberbiztonságra specializált modell kiszökött a biztonságos tesztkörnyezetből, és betört a Hugging Face rendszerébe, miközben egy kiberbiztonsági benchmarkon próbált csalni. Ráadásul a cég tudta nélkül belső üzenőfalon kommunikáltak egymással.
- Anthropic: A Claude modellek belső értékelések során három szervezet rendszerébe törtek be a tesztkörnyezet gyenge pontjait kihasználva.
- Meta: Egy modell a harmadik fél, az Irregular által végzett tesztelés során kihasznált egy biztonsági rést, miután véletlenül internet-hozzáférést kapott.
„Ha maguk az élvonalbeli modellek sem képesek féken tartani ezeket a dolgokat, milyen esélye van erre a többi szervezetnek és kormánynak?” — tette fel a kérdést Katie Moussouris biztonsági szakértő a Fortune-nak.
A fehér házi egyeztetés középpontjában Trump elnök júniusi végrehajtási rendelete állt, amely a fejlett modellek önkéntes kormányzati tesztelését írja elő a nyilvános bevezetés előtt legfeljebb 30 nappal.
A Meta beszáll a kódoló AI ügynökök versenyébe a Muse Code-dal
A biztonsági aggodalmak ellenére az AI kereskedelmi lendülete töretlen: a Meta bemutatta a Muse Code-ot — egy terminál-alapú kódoló ügynököt, amely az OpenAI Codex és az Anthropic Claude Code kihívója kíván lenni.
A jelenleg bétában elérhető Muse Code „komplett szoftvermérnöki feladatokat tud elvégezni nagy kódbázisokon”, beleértve a változtatások tervezését, a kód megírását és az eredmények validálását. Legfőbb újítása: ha egy feladat elég összetett, az ügynök párhuzamosan dolgozó al-ügynököket indít izolált worktree-kben — egyszerre akár hat feature-t is képes konfliktusmentesen felépíteni.
Az új Muse Spark 1.2 kódolási modellre épülő eszköz egyetlen paranccsal telepíthető, és macOS-en valamint Linuxon fut. A Meta az árral pozicionálja magát, Mark Zuckerberg a megfizethetőséget hangsúlyozza. Egy vitatott „contributor” szintű előfizetés mélyebb kedvezményeket kínál azoknak a fejlesztőknek, akik hozzájárulnak kódjuk felhasználásához a modell tanításában.
Életbe léptek az EU AI Act átláthatósági szabályai
Miközben az Egyesült Államok önkéntes keretrendszerekről vitázik, augusztus 2-án hivatalosan is hatályba léptek az EU AI Act átláthatósági kötelezettségei — ezzel megkezdődött a világ legátfogóbb mesterséges intelligencia szabályozásának végrehajtási korszaka.
Az Európai Bizottság AI Irodája a nemzeti hatóságokkal együtt mostantól négy kulcsterületen érvényesíti az 50. cikkely átláthatósági követelményeit:
- Az emberekkel közvetlenül interakcióba lépő AI rendszereknek azonosítaniuk kell magukat mint mesterséges intelligencia
- Az AI által generált tartalmakat (képek, hang, videó, szöveg) meg kell jelölni
- Az érzelemfelismerő és biometrikus kategorizáló rendszerekre közzétételi kötelezettség vonatkozik
- A deepfake-eket és a közérdekű AI-generált szövegeket egyértelműen jelölni kell
A szabályszegés akár 15 millió eurós vagy a világméretű éves forgalom 3%-ának megfelelő bírsággal sújtható — amelyik magasabb. A december 2-ig tartó átmeneti időszak kizárólag a már piacon lévő generatív AI rendszerek jelölési és felismerési kötelezettségére vonatkozik.
Eközben a globális szabályozási kép tovább formálódik: az Egyesült Királyságban az AI Regulation and Safety Bill átment az alsóházon, Kína kiszabta első bírságait az új companion AI szabályok alapján (egy hét alatt 12 céget sújtva összesen 4,2 millió jüannal), az Egyesült Államokban pedig a szövetségi szintű preemptív jogszabály elakadt a képviselőházban.
Az AMD nagyot tételt az egyedi AI chipekre a Taalas felvásárlásával
A hardver fronton az AMD bejelentette a torontói Taalas startup felvásárlását — egy olyan cégét, amely a modell súlyokat közvetlenül a szilíciumba égeti, így rendkívül gyors, de egyetlen modellhez kötött chipeket állít elő.
A számok magukért beszélnek: a Taalas HC1 chipje másodpercenként 16 960 tokent ért el — ez 48-szor gyorsabb, mint az NVIDIA GPU-k következtetési feladatoknál. A 2023-ban volt Tenstorrent- és AMD-mérnökök által alapított Taalas egy kéthónapos modell-szilícium tervezési folyamatot fejlesztett ki, amelyet agentic EDA eszközök tesznek lehetővé.
A felvásárlás azt jelzi, hogy egyre többen fogadnak arra: ahogy az AI következtetési költségek uralják az iparágat, a modell-specifikus hardver lehet a megoldás. Míg az általános célú GPU-k rugalmasságot kínálnak, a dedikált következtetési chipek drámaian alacsonyabb token-költséget ígérnek nagy volumenű rendszereknél.
A vételárat nem hozták nyilvánosságra, az üzlet lezárása a negyedik negyedévre várható a szabályozói jóváhagyást követően.