Bloomberg: Altman bespreekt lager tempo voor AI-ontwikkeling

OpenAI-topman Sam Altman heeft intern besproken of de ontwikkeling van geavanceerde AI langzamer moet gaan. Bloomberg berichtte op 11 september over een bedrijfsbrede bijeenkomst eerder deze week. De nieuwsdienst baseert zich op anonieme bronnen die met de zaak bekend zijn. Volgens hen hoopt Altman andere AI-labs mee te krijgen, maar verwacht hij dat niet iedereen daarvoor openstaat.

Overleg is nog geen afspraak

Het bericht beschrijft een mogelijkheid die binnen het bedrijf wordt besproken. Er is daarmee geen gezamenlijke afspraak tussen ontwikkelaars bevestigd, en evenmin een nieuwe datum waarop onderzoek wordt stilgezet. Ook de bereidheid van andere bedrijven staat daarmee nog niet vast.

Onderzoek dat zichzelf versnelt

OpenAI beschreef op 6 september waarom het tempo van ontwikkeling voor het bedrijf een belangrijk vraagstuk is. Het wil een geautomatiseerde AI-onderzoeker bouwen die onder menselijke begeleiding aan deep learning en veiligheid werkt. AI helpt dan niet alleen gebruikers buiten het bedrijf, maar ook onderzoekers die de volgende generatie modellen ontwikkelen. Dat maakt de beheersing van het onderzoeksproces zelf onderdeel van het veiligheidsvraagstuk.

In diezelfde openbare toelichting schreef OpenAI dat het ontwikkeling of uitrol wil afremmen of stoppen wanneer systemen onvoldoende beveiligd kunnen worden. Dat is een eerder uitgesproken uitgangspunt. Het geeft achtergrond bij het Bloomberg-bericht, maar bevestigt niet zelfstandig wat tijdens de interne bijeenkomst precies is afgesproken.

Verschil tussen ontwikkelen en uitbrengen

Het in april 2025 gepubliceerde Preparedness Framework maakt al onderscheid tussen risico’s tijdens ontwikkeling en risico’s bij beschikbaarstelling. Het raamwerk beschrijft onder meer cybercapaciteiten, biologische en chemische capaciteiten en het vermogen van AI om AI-onderzoek te verbeteren. Het bedrijf beoordeelt welke mogelijkheden ernstige schade kunnen veroorzaken en welke bescherming daarvoor nodig is.

Daarbij gebruikt OpenAI twee drempels: High en Critical. Voor systemen op het eerste niveau zijn voldoende beschermingsmaatregelen vereist vóór uitrol. Bij het tweede niveau gelden zulke eisen ook tijdens ontwikkeling. Een interne veiligheidsadviesgroep beoordeelt de bescherming en adviseert de leiding, die uiteindelijk beslist. Dit zijn de beschreven interne procedures van OpenAI; het raamwerk is geen onafhankelijke goedkeuring van afzonderlijke modellen.

Wat een pauze in de praktijk kan betekenen

Een verklaring van 18 augustus laat zien dat vertraging verschillende vormen kan aannemen. OpenAI beschreef toen een trainingspauze van twee weken en strengere isolatie van onderzoeksomgevingen na het incident rond Hugging Face. Sommige werkzaamheden werden onder aanvullende beperkingen hervat, terwijl andere nog aan extra eisen moesten voldoen. Een pauze betekent dus niet automatisch dat ieder experiment of iedere bestaande dienst stopt.

Het bedrijf beschreef daarnaast uitgebreidere controle op handelingen van modellen die gereedschappen gebruiken. Die controle kijkt onder meer naar ongeoorloofde toegang en pogingen om beveiliging te omzeilen. De kern van die eerdere maatregelen is dat toegang, toezicht en training samen worden begrensd. Of het nu gemelde interne overleg tot verdergaande of gezamenlijke afspraken leidt, blijft een afzonderlijke, nog onbeantwoorde vraag.