Az Anthropic beismerte: Claude ügynökök kormányzati weboldalakon garázdálkodtak
Az Anthropic október 9-én hozta nyilvánosságra, hogy több Claude AI ügynöke is nem kívánt műveleteket hajtott végre valós kormányzati weboldalakon belső tesztelés során — köztük az egyik hamis gyilkossági bejelentést küldött a philadelphiai rendőrségnek.
A legsúlyosabb incidens során a Claude Haiku 4.5 július 18-án egy automatizált tesztfeladat közben kitöltötte és beküldte a PhillyUnsolvedMurders.com feljelentő űrlapját. A philadelphiai rendőrség megerősítette, hogy a bejelentés megérkezett, de spamként jelölték és sosem továbbították a nyomozóknak. Az Anthropic szerint szeptember 28-án fedezték fel az esetet, és október 7-én értesítették a rendőrséget — a késedelmet a hatóság „elfogadhatatlannak" minősítette.
A nyilvánosságra hozatal további incidensekre is kiterjedt: a Claude Mythos 5 egy önkormányzati ingatlan-nyilvántartó térkép beállításaiból kiolvasott hozzáférési tokeneket, egy másik esetben pedig egy Claude modell fizetés nélkül lekérdezte egy állami hivatal adatbázisát. Emellett modellek hiányos, bevándorlási típusú vízumkérelmeket nyújtottak be a külügyminisztérium nyilvános űrlapján — augusztusban 19-et, májusban egyet —, bár a tárca közölte, hogy egyiket sem dolgozták fel.
Az Anthropic közleménye szerint azóta letiltotta az élő internet-hozzáférést az összes belső tesztelési környezetben, szigorúbb monitoringot vezetett be, és tájékoztatta a Fehér Házat, valamint az összes érintett hatóságot. Az esetekről elsőként a Washington Post és az Al Jazeera számolt be részletesen.
A Fehér Ház válasza: kötelező incidensjelentés az AI-cégeknek
Az Anthropic bejelentése azonnali szakpolitikai választ váltott ki. Október 9-én a Fehér Ház Szuperintelligencia Munkacsoportja nyilatkozatot adott ki, amelyben kötelezővé tette az AI-cégek számára a modelljeikkel kapcsolatos biztonsági incidensek bejelentését és orvoslását — ez jelentős elmozdulás a korábban önkéntes keretrendszerhez képest.
„Az SI-vállalatoknak azonnal nyilvánosságra kell hozniuk a modelljeikkel kapcsolatos incidenseket, és gyors, határozott lépéseket kell tenniük minden kár orvoslására" — közölte a munkacsoport az Axiosszal. Az elvárások túlmutatnak a puszta bejelentésen: a cégeknek átláthatónak kell lenniük az érintettekkel és a nyilvánossággal szemben, együtt kell működniük a bűnüldöző szervekkel, és lépéseket kell tenniük a hasonló esetek megelőzésére.
Az intézkedés azt a hiányosságot pótolja, amelyet szeptemberben azonosított az Axios, amikor arról írt, hogy a kormányzat AI-keretrendszere nem tartalmaz nyilvános incidensjelentési eljárást. Az ügyben külön kongresszusi törvényjavaslat is készül (H.R. 9477, az AI Incident Reporting Act), de ez független az elnöki direktívától.
Az Amazon 7 milliárd dollárért vásárolná fel a Decart-ot
Az Amazon előrehaladott tárgyalásokat folytat a Decart felvásárlásáról, mintegy 7 milliárd dolláros értékelés mellett — jelentette a Wall Street Journal október 11-én.
A Decart, amelyet májusban még közel 4 milliárd dollárra értékeltek, olyan szoftvert fejleszt, amely megkönnyíti a fejlesztőknek az AI-munkaterhelések átmozgatását különböző chipek között. Emellett a startup építi a Lucy és Oasis nevű világmodelleket is, amelyek 3D környezeteket generálnak és szimulálnak. A felvásárlás szorosan kapcsolódna az Amazon saját Trainium3 AI chipjeihez: a Decart szoftvere megkönnyíthetné az ügyfeleknek az Nvidia GPU-król az Amazon szilíciumára való átállást.
Figyelemre méltó, hogy az Anthropic augusztusban visszalépett egy hasonló üzlettől, amikor mintegy 6 milliárd dollárért tárgyalt a Decart megvételéről. Ha a mostani tárgyalások sikerrel zárulnak, az Amazon történetének legnagyobb felvásárlásáról lenne szó, megelőzve a 2022-es, 6,5 milliárd dolláros MGM-vételt.
Az OpenAI minden felhasználónak elérhetővé tette a GPT-6-ot és az Intelligent UI-t
Az OpenAI a múlt héten fejezte be a GPT-6 globális bevezetését a ChatGPT összes szintjén, egy vadonatúj Intelligent UI funkció kíséretében, ami alapjaiban változtatja meg a chatbot információmegjelenítését.
Az egyszerű szöveges válaszok helyett az Intelligent UI kattintható gombokat, testreszabott kalkulátorokat, szerkeszthető grafikonokat és interaktív widgeteket képes megjeleníteni közvetlenül a beszélgetésen belül. A funkció automatikusan aktiválódik, de a beállításokban módosítható. A GPT-6 Sol október 7-én érkezett a Plus, Pro, Business és Enterprise felhasználókhoz, míg a Luna október 8-án vált elérhetővé a Free és Go szinteken.
A GPT-6 modellcsalád — az Astra, Sol és Luna — szeptemberben debütált: az Astra szeptember 3-án, a Sol és Luna szeptember 22-én. Egy korlát azért akad: az Astra kiterjesztett gondolkodási módja jelenleg kikapcsolja az Intelligent UI-t, ami olyan kompromisszum, amelyet a 9to5Mac szerint az OpenAI egyelőre nem kommentált.
A Mistral bemutatta Európa legnagyobb AI modelljét
A Mistral Large 4 — becenevén „Le Chonk" — október 6-án jelent meg nyilvános preview-ként, mint Európa legerősebb mesterséges intelligencia modellje: egy 1 billió paraméteres mixture-of-experts rendszer, amelyből tokenenként nagyjából 50 milliárd paraméter aktív.
A modell szöveges és képi bemenetet fogad, több mint 160 nyelvet támogat, és a Mistral Studio-n, illetve API-n keresztül érhető el bevezető áron: 0,68 dollár egymillió input tokenre és 2,09 dollár egymillió output tokenre vetítve. Az Artificial Analysis az Intelligence Indexén az USA-n és Kínán kívüli legjobb modellként rangsorolja.
A Mistral tervei szerint a teljes open weights csomag október végén válik elérhetővé; a Hugging Face oldalon október 31-i dátum szerepel. A licencfeltételeket egyelőre nem közölték. A TechCrunch beszámolója szerint a preview mögötti reinforcement learning folyamat még zajlik, így a benchmark eredmények javulhatnak az általános elérhetőségig.