AI systems are regularly completing tasks in ways that their prompters don’t want or intend. Some of them are disturbing, and some of them are dangerous. This is something I’ve been calling “genie behavior,” because I think that really gets at the core of what’s happening.

I wish the popular press would report on this better. I don’t like the “going rogue” framing because it deflects the responsibility from the prompters—often the AI companies themselves. And now, pretty much anything off-script is being called “hacking.”

Take, for example, the recent stories of one of OpenAI’s models hacking into government systems. First, The New York Times writes this headline: “OpenAI’s Systems Meddled With U.S. Government Sites After Going Rogue.”

Sounds scary, but this is from the body of the article:

With the Education Department, OpenAI’s technology tried to hack the website to gather data from the department’s civil rights office but failed, researchers from the A.I. research firm Transluce said. The A.I. also pulled data from the Census Bureau website, which is housed at the Commerce Department, using login credentials it found online. Separately, OpenAI’s agents shared public data from the S.E.C. website on an online forum.

This is from the original Transluce report. It is explicit that the agents were trying to discover vulnerabilities:

The first hacking attempt was against the University of New Mexico’s Digital Library (nmdigital.unm.edu) from May 25-26 2026. Agents repeatedly tried to retrieve one photograph in UNM’s Valmora collection, both directly and through third-party relay services. They sent seven probes attempting to verify the existence of vulnerabilities, including SQL injection, command injection, and path traversals. In all cases, these tactics appear to have been unsuccessful. The agents also sent a self-described “flood: of 80 requests to the UNM server in an apparent attempt to access the image.

Transduce doesn’t talk about the other two anecdotes, and I don’t know where they come from. But one involves using Census Bureau credentials found online. (I know from a colleague that those are incredibly easy to create; all use you need is an email address.) And the other involves sharing publicly available data.

So no actual hacking. And certainly no “meddling.”

The other story making the rounds is about Australia, from the same Transduce report. The news stories have headlines like “An OpenAI Agent Hacked Australia’s Health Service” and “Rogue OpenAI agent ‘infiltrated’ Australian government website in world first.” And Prime Minister Anthony Albanese said: “There will obviously be legal consequences on it.”

Again from Transduce’s actual report:

On June 20-21, agents attempted to exploit vulnerabilities in the Australian Institute of Health and Welfare (AIHW), a government statistics agency). The agents were tasked with finding the January 2022 rolling-12-month-average government cost per person for Dermatologicals across Victorian LGAs.

Again, the agents ran into errors, including requests blocked by Cloudflare and issues with correctly identifying Tableau parameter names. As before, they then resorted to probing for exploitable vulnerabilities. Minutes after Cloudflare blocked the dataset download, an agent sent a reflected cross-site scripting probe to the same dashboard: a web address with code embedded in it, designed to test whether the site would run code supplied by an outsider. Cloudflare’s firewall blocked the probe before it reached the dashboard. When Cloudflare blocked the dataset download on AIHW’s main site, they fetched the file from AIHW’s pre-production server (pp.aihw.gov.au) instead, which served it in pieces over more than 100 scans. The file itself is public, so no non-public data was exposed, but the agent bypassed the site’s anti-bot controls.

Note the last sentence: “The file itself is public….”

I’m not saying that these AI systems aren’t incredibly sophisticated cyberattackers. I’m also not saying that they don’t occasionally autonomously attack other systems and networks. If we are ever going to get trustworthy AI—integrous AI—we are going to need to figure out how to ensure that AI systems complete tasks in line with all sorts of implicit constraints and restrictions. But every instance of genie-like behavior isn’t a cyberattack.

I want to measure genie-like behavior in AIs, but I am much more worried about human hackers enhanced with this technology than I am about this technology acting autonomously.

BRUSSEL (ANP) - Europese luchthavens hebben in de afgelopen zomerperiode meer passagiers over de vloer gehad dan een jaar eerder. Volgens de brancheorganisatie voor luchthavens ACI Europe nam het passagiersverkeer binnen het Europese netwerk in juli met 3,9 procent toe vergeleken met een jaar eerder en in augustus ging het om een stijging van 3,1 procent.

Juli en augustus zijn de drukste maanden van het jaar voor de Europese luchtvaart vanwege de zomervakantie. De groei in de zomer was aanzienlijk sterker dan in het tweede kwartaal met de maanden april, mei en juni. Toen nam het passagiersverkeer met 1,3 procent toe, aldus ACI.

ACI-directeur Olivier Jankovec zegt dat de vraag naar luchtreizen in de zomer overeind bleef ondanks tegenwind door geopolitieke spanningen, economische onzekerheid en gestegen ticketprijzen. Hij verwacht dat luchtvaartmaatschappijen doorgaan met het verhogen van prijzen door de gestegen brandstofkosten.

ARNHEM (ANP) - Bij het steekincident in Arnhem zijn dinsdagavond drie gewonden gevallen. Een van hen, een minderjarig slachtoffer, raakte zwaargewond. De twee andere slachtoffers zijn als verdachte aangemerkt.

Rond 21.30 uur kreeg de politie een melding van een vechtpartij bij station Arnhem Centraal. Hierbij was een groep van ongeveer vijftien personen betrokken. Bij aankomst van de politie verspreidde de groep zich, waarna op verschillende locaties in de omgeving nieuwe incidenten ontstonden met dezelfde groep. Tijdens het conflict is er vermoedelijk ook gestoken.

De politie heeft in totaal acht verdachten aangehouden. Zij zijn in de leeftijd van 17 tot 20 jaar oud en komen uit verschillende woonplaatsen in Nederland. De politie doet onderzoek naar wat er precies is gebeurd en wat de betrokkenheid van de verdachten is. Mensen die iets hebben gezien of bijvoorbeeld camerabeelden hebben, worden gevraagd zich te melden.

BRUSSEL (ANP/BELGA) - De Vlaamse regering heeft na veel toestanden afgelopen week op woensdag toch een akkoord bereikt over de begroting. Dat gebeurde een paar uur voordat premier Matthias Diependaele zijn eerder uitgestelde septemberverklaring zal geven in het Vlaams Parlement. Dat is een soort troonrede waarin hij ook de begrotingskoers uiteenzet.

De septemberverklaring stond gepland voor maandagmiddag, maar die werd uitgesteld nadat twee personen, onder wie minister Hilde Crevits (Binnenland), onwel werden na een weekend en een nacht van constant overleg. Dinsdag moest het overleg over de financiën opnieuw worden gestaakt, omdat er een rekenfout zat in de tabel van minister van Begroting Ben Weyts.

Het was een moeizaam overleg vanwege een besparing van tussen de 1,6 en 1,9 miljard euro die gevonden moest worden. Waar de besparingen precies zitten, is niet direct bekendgemaakt. Diependaele geeft om 14.00 uur zijn septemberverklaring, die normaliter elke vierde maandag van september plaatsvindt.

DEN HAAG (ANP) - D66'er Henk-Jan Oosterhuis suste tijdens de Algemene Financiële Beschouwingen de onrust over de eventuele bezuinigingen op onderwijs. De tabel waarin het kabinet schetst hoe een alternatief voor de bezuinigingen op sociale zekerheid moet worden verdeeld, heeft voor hem "niet zoveel waarde". Uit die tabel blijkt dat een groot deel van de compensatie voor bezuinigingen op sociale zekerheid gehaald wordt op onderwijs.

Verschillende oppositie-Kamerleden confronteerden D66 met die tabel. Bezuinigen op onderwijs is "het allerlaatste wat je moet doen", zei Oosterhuis tegen Sandra Beckerman van de SP. "Want die vakmensen en knappe koppen hebben we juist nodig in de toekomst."

Beckerman vroeg of er een deal is gemaakt in de coalitie over de verdeling. Oosterhuis zei de tabel niet te kennen, "tot die tien minuten geleden naar de Kamer kwam. Dat er een overijverige ambtenaar nu iets heeft uitgesplitst, vind ik niet zo relevant. De politieke afspraak is dat we nu gaan werken aan een sociaal akkoord en dan in het voorjaar gaan kijken wat de financiële nasleep is en hoe we dat gaan betalen."

Het aantal mensen met een autismediagnose is de afgelopen decennia spectaculair gestegen. In Engeland verachtvoudigde het aantal diagnoses tussen 1998 en 2018. Toch is daarmee nog niet aangetoond dat autisme zelf zoveel vaker voorkomt.

Dat onderscheid is cruciaal. Vrijwel alle studies tellen diagnoses, terwijl er geen biologische test bestaat waarmee kan worden vastgesteld hoe vaak autisme werkelijk voorkomt. Een Zuid-Koreaanse studie biedt daarom interessant vergelijkingsmateriaal. Daar werden 62.081 kinderen uit twaalf opeenvolgende geboortecohorten steeds op dezelfde manier gescreend.

Even veel kinderen 

Het aandeel kinderen dat aan de criteria voor autisme voldeed, bleef gedurende die periode vrijwel gelijk. Kleine schommelingen waren statistisch niet significant. Wel verschoof een groeiend deel van de kinderen van de groep ‘niet gediagnosticeerd’ naar ‘gediagnosticeerd’. Dat wijst erop dat betere herkenning een belangrijk deel van de stijgende cijfers kan verklaren.

Tegelijk verandert sterk wie de diagnose krijgt. In Groot-Brittannië groeide het aantal diagnoses vooral onder volwassenen en vrouwen. Zweedse gegevens laten een vergelijkbare verschuiving zien. Rond 2020-2022 kregen tussen 15 en 24 jaar zelfs meer vrouwen dan mannen een diagnose.

Daarover bestaat discussie. Een verklaring is dat meisjes en vrouwen vroeger vaak werden gemist en nu een inhaalslag maken. Maar Australische gegevens wijzen op een andere mogelijkheid. Na invoering van een financieringssysteem waarbij ondersteuning gekoppeld werd aan een medische diagnose, steeg de gerapporteerde prevalentie naar schatting met 32 procent. De toename was daar groter bij mannen dan bij vrouwen.

Diagnose is veranderd

Ook de betekenis van de diagnose is veranderd. De criteria werden in de jaren negentig verruimd en steeds meer mildere gevallen kwamen binnen het autismespectrum terecht. Dat is zichtbaar in cijfers over verstandelijke beperkingen. In Zweedse gegevens daalde het aandeel mensen met autisme én een verstandelijke beperking van meer dan 55 procent in 2001 tot minder dan 7 procent in 2020.

Uta Frith beschrijft bovendien hoe autisme cultureel een andere betekenis heeft gekregen. De neurodiversiteitsbeweging heeft stigma verminderd, terwijl sociale media autisme tegelijkertijd tot een populaire culturele identiteit hebben gemaakt.

Dat betekent niet dat biologische factoren geen rol kunnen spelen. Autisme is naar schatting voor 40 tot 90 procent erfelijk. Hogere leeftijd van ouders, obesitas bij de moeder en zwangerschapsdiabetes hangen eveneens samen met een verhoogde kans op autisme en zijn de afgelopen decennia vaker voorgekomen. Voor vaccins is het beeld daarentegen duidelijk: reviews van tientallen studies vinden geen verband met autisme.

De explosie aan diagnoses is dus onmiskenbaar. Hoeveel daarvan een echte biologische toename weerspiegelt, blijft veel moeilijker vast te stellen. De enige studie waarin de meetmethode over opeenvolgende geboortecohorten gelijk bleef, vond geen stijging van het aandeel kinderen dat aan de criteria voldeed.

Bron: PsyPost

DEN HAAG (ANP) - Een groep Europese landen met onder meer Nederland heeft nog geen afspraken gemaakt met een land over een uitzetcentrum, zei asielminister Bart van den Brink tijdens een debat. Het AD meldde dinsdag op basis van Griekse informatie dat de Europese landen een deal hebben gesloten met het Centraal-Afrikaanse Rwanda.

PRO-Kamerlid Lisa Westerveld vroeg de CDA-minister hoe het kan dat de krant meer weet dan de Tweede Kamer. "Ik kan u verzekeren dat er niets nieuws is gebeurd", zei Van den Brink. Volgens hem loopt het gesprek dat al een paar maanden aan de gang is nog.

Westerveld was ook bezorgd over de rechten en hulp die mensen krijgen als ze naar een voor hen onbekend land worden gestuurd. Van den Brink verzekerde dat hier goede afspraken over worden gemaakt en dat een "respectabele internationale organisatie" daar toezicht op moet houden. Asielzoekers die geen verblijfsstatus in Nederland kunnen krijgen, maar niet terug naar hun land willen of kunnen, moeten naar een derde land worden uitgezet, als het aan Van den Brink ligt.

Rapidly expanding AI use within the government is numbing departments to its profound threats. And try arguing with a faceless digital bureaucrat

Another day, another apocalyptic warning about the likelihood that rampantly uncontrollable artificial intelligence will solve all of our problems, including the problem of being alive.

Hot on the heels of disgruntled Anthropic researchers announcing the end of civilisation by 2030, we’ve now had the portentously named Hugging Face incident, as well as the Australian government’s grim discovery of a rogue AI’s attack on its Medicare website. Swarms of experts are now falling over each other to warn us that much, much worse is on the way.

The author works for the UK civil service

Continue reading...

Volgens vluchtvolgdienst Flightradar24 daalde het toestel binnen dertig seconden met 14.000 voet (4.267,2 meter), waarna een onbekende een noodsignaal afgaf.