SAN FRANCISCO (ANP/BLOOMBERG) - De topwetenschapper van OpenAI, Jakub Pachocki, waarschuwt dat kunstmatige intelligentie zich zo snel ontwikkelt dat het steeds moeilijker wordt voor mensen om het te begrijpen. Hij stelt daarom dat AI-laboratoria de ontwikkeling vrijwillig moeten gaan vertragen vanwege veiligheidsredenen.
"Dit is een tijd die extreme voorzichtigheid vraagt", schrijft Pachocki. "Ik ben bezorgd dat niemand voorbereid is op de gevolgen van een voortdurende snelle groei van intelligentie van machines." Hij hoopt dan ook dat ontwikkelaars van AI beter afstemmen op menselijke belangen en de ontwikkeling van AI vertragen "waar nodig". "Ik verwacht en hoop dat vrijwillige vertragingen de norm zullen worden totdat er gedeelde veiligheidsnormen zijn vastgesteld."
De uitspraken volgen ruim een maand nadat de AI-modellen van OpenAI tijdens een test wisten in te breken bij een ander AI-bedrijf, Hugging Face. De AI-modellen kregen opdracht om brede hackopdrachten uit te voeren. Dit was bedoeld om hun vermogen te testen om cyberkwetsbaarheden te ontdekken en te misbruiken. Beveiligingsmaatregelen die normaal in de producten van OpenAI worden gebruikt, waren uitgeschakeld, aldus het rapport. De modellen misten daarmee systemen die automatisch potentieel risicovolle activiteiten controleren en blokkeren.
Rapport
In een rapport over de hack toonde het bedrijf zich eerder al schuldbewust over het incident. "We hadden eerder kunnen ingrijpen op de onbedoelde hack. Achteraf bezien hadden sommige vroege signalen die in dit rapport worden genoemd, een eerdere reactie kunnen uitlokken", aldus OpenAI.
De hack zorgde voor opschudding in de technologiewereld. Overheden en leiders van techbedrijven riepen na het incident op tot beperkingen op de technologie.
OVERASSELT (ANP) - Tijdens zoekacties heeft de politie maandag opnieuw meerdere vuurwapens aangetroffen in Overasselt. Vorige week in de nacht van maandag op dinsdag liep een groep van tientallen gewapende mannen door de Gelderse plaats. Een 51-jarige beveiliger uit Wijchen werd doodgeschoten en twee agenten raakten gewond.
De politie doet geen uitspraken over de precieze vindlocaties van de vuurwapens die maandag zijn gevonden of de omstandigheden waarin de wapens werden aangetroffen. De afgelopen dagen zijn in het onderzoek meermaals wapens aangetroffen. "De verwachting is dat ons onderzoek in Overasselt niet vandaag is afgerond en ook de komende dagen door zal gaan", aldus de politie.
De beveiliger werd doodgeschoten bij het huis van de veroordeelde crimineel Jan G. (28). In totaal zijn er 35 mensen aangehouden in het onderzoek. Daarvan zijn er twee vrijgelaten, maar zij blijven verdachten. De andere mannen zitten vast in beperkingen. De jongste van hen is 16 jaar oud, de oudste is 32 jaar.
Thomas Hawk posted a photo: