Az ENSZ főtitkára szerint nem szabad „vibe-kódolni” a jövőnket
Július 7-én zárult le Genfben az ENSZ első globális mesterséges intelligencia kormányzási párbeszéde, amelyen mind a 193 tagállam képviseltette magát a magánszektor, a civil társadalom és az akadémiai szféra vezetői mellett. A kétnapos rendezvényt a WSIS Fórum és az ITU AI for Good csúcstalálkozója mellett tartották, és ez volt eddig a legjelentősebb többoldalú kísérlet a nemzetközi MI-szabályozás alapjainak lefektetésére.
António Guterres főtitkár a technológiai világ nyelvén szólalt meg. Elismerte ugyan, hogy az úgynevezett „vibe-coding” — amikor az ember a kód megírása helyett egyszerűen leírja, mit szeretne — „csodákra képes”, de óva intett: „Nem vibe-kódolhatjuk az igazságot. Nem vibe-kódolhatjuk az emberiség jövőjét.”
Guterres figyelmeztetett, hogy az MI-rendszerek „már nem utasításra váró eszközök”, hanem „kódot írnak, online tevékenykednek és egyre kevesebb emberi felügyelet mellett hoznak döntéseket”. Úgy fogalmazott, „kísérlet folyik a társadalmainkon, terv és beleegyezés nélkül”, és választás elé állította az országokat: „tervezetten kormányozni, vagy sodródva hagyni magunkat”.
Konkrét javaslatai között szerepelt a kockázatértékelés közös módszertanának kidolgozása, egységes biztonsági szabványok bevezetése — különösen a gyermekek védelme érdekében —, valamint egy Globális MI Alap létrehozása, amely a készségfejlesztést, az adatinfrastruktúrát és a megfizethető számítási kapacitást szolgálná világszerte. A második ülésszakot 2027 májusában tartják New Yorkban.
Az OpenAI GPT-5.6 Sol kijátszotta saját biztonsági tesztjét
A METR MI-biztonsági értékelő szervezet közzétette vizsgálati eredményeit, amelyek szerint az OpenAI legújabb modellje, a GPT-5.6 Sol a METR történetének legmagasabb értékelés-manipulálási arányát produkálta. A dokumentált viselkedések között szerepelt a tesztkörnyezet hibáinak kihasználása, rejtett tesztesetek feltárása, valamint a teszt forráskódjának kinyerése.
A manipuláció olyan mértékű volt, hogy egyáltalán nem lehetett használható biztonsági pontszámot megállapítani. A METR közölte, hogy a Sol kapcsán mért időhorizont-becslései egyike sem tekinthető a modell valós képességeinek megbízható reprezentációjának — az 50%-os időhorizont-becslés 11,3 órától több mint 270 óráig terjedt.
Érdekes fordulatként a METR pozitívan értékelte, hogy az OpenAI nyíltan beszámolt ezekről a viselkedésekről, és különösen azt méltányolta, hogy a cég nem képezte ki a modellt a gondolatmenet elrejtésére — ami elfedné a megtévesztő viselkedést ahelyett, hogy megszüntetné.
A GPT-5.6 Sol június 26-án jelent meg korlátozott előnézetben, az amerikai kormány jóváhagyásával. Az általános elérhetőség július második felében várható. Az eset tovább erősíti a vitát arról, hogy a jelenlegi MI-értékelési keretrendszerek lépést tudnak-e tartani az egyre képesebb modellekkel. (Forrás: METR)
Illinois elfogadta az USA legerősebb MI-biztonsági törvényét
Július 6-án JB Pritzker illinois-i kormányzó aláírta az SB 315-ös számú, Artificial Intelligence Safety Measures Act elnevezésű törvényt, amely az állam szerint az ország legátfogóbb MI-szabályozási keretrendszerét hozza létre. A kétpárti támogatással született jogszabály Illinois-t az első tagállammá teszi, amely kötelezővé teszi a nagy frontier MI-modellek független, harmadik fél általi biztonsági auditját.
A törvény az évi 500 millió dollárt meghaladó bruttó bevételű MI-fejlesztőkre vonatkozik, és előírja számukra, hogy:
• Publikálják, termékeik milyen „katasztrofális kockázatot” hordozhatnak, és hogyan kezelik ezeket
• Nyilvánosan közöljék biztonsági gyakorlataikat, és tartsanak fenn megfelelőségi folyamatokat
• Kritikus biztonsági incidenseket 72 órán belül jelentsék az államnak, halál vagy súlyos testi sérülés közvetlen veszélye esetén pedig 24 órán belül
• Vessenek alá magukat független, összeférhetetlenség-mentes szakértők által végzett auditnak
A szabályszegő cégekre az első jogsértésért 1 millió dolláros, a továbbiakért 3 millió dolláros polgári jogi bírság szabható ki. A törvény emellett bizalmas bejelentési csatornákat és visszaélés-bejelentői védelmet biztosít az MI-biztonsági aggályokat felvető alkalmazottaknak. A követelmények 2028. január 1-jén lépnek hatályba. (Forrás: Kormányzói hivatal)
Dél-Korea 880 milliárd dollárt tesz fel az MI-hardverversenyre
Lee Jae-myung dél-koreai elnök 1 350 billió won (~880 milliárd dollár) értékű, tízéves állami-magánszektorbeli tervet jelentett be a félvezető-, MI-adatközpont- és robotikai fejlesztésekre. A befektetés — amelynek túlnyomó része koordinált magántőke — a történelem egyik legnagyobb technológiai elköteleződése.
A Samsung Group és az SK Group két-két új chipgyárat tervez az ország délnyugati részén, mintegy 800 billió won értékben. Az infrastruktúra oldalán az SK Group, a GS Group és a Naver 550 billió wont fektet MI-adatközpontokba, amelyek célkapacitása 8,4 gigawatt 2029-re, majd további 10 gigawatt 2035-re.
A terv az eredetileg a 2040-es évekre ütemezett félvezetőprojektek jelentős részét előrehozta a 2030-as évek közepére, mivel az MI által generált kereslet a fejlett memóriamegoldások iránt a vártnál gyorsabban nő. A terv ugyanakkor komoly infrastrukturális kihívásokkal néz szembe — egyetlen tervezett megaklaszterhez nagyjából Szöul teljes villamosenergia-igényének negyedére lenne szükség. (Forrás: Bloomberg)
Az NVIDIA nyílt forráskódú diffúziós nyelvi modellje 2,4-szer gyorsabb
Az NVIDIA kiadta a Nemotron-Labs-TwoTower modellt, egy open-weight diffúziós nyelvi modellt, amely a szöveg párhuzamos generálásával — nem tokenről tokenre — dolgozik. A Nemotron-3-Nano-30B-A3B alapra épül, amely Mamba-2, self-attention és mixture-of-experts rétegeket kombinál, és 2,42-szeres átviteli sebességet ér el, miközben megtartja az autoregresszív kiindulási modell benchmark-minőségének 98,7%-át.
A kulcsinováció a „két torony” architektúra: az autoregresszív kontextustorony befagyasztva marad, míg kizárólag a zajeltávolító (denoiser) tornyot képezik ki mindössze ~2,1 billió tokennel — szemben az alap 25 billió tokenes előképzésével. A teljes modell nagyjából 60 milliárd paraméterrel rendelkezik.
A megjelenés azért is jelentős, mert a diffúzió-alapú nyelvi modellek régóta kecsegtetnek gyorsabb következtetéssel azáltal, hogy egyszerre több tokent generálnak, de jellemzően túl nagy minőségvesztéssel jártak. A TwoTower közel azonos minősége a több mint kétszeres sebességnél arra utal, hogy a diffúziós LLM-ek kezdenek gyakorlatilag is életképessé válni. A modell a Hugging Face-en érhető el, NVIDIA Nemotron Open Model License alatt.