Thomas Germain made a blog post that ranks tech journalists at their hot-dog eating contest prowess. Shortly after, ChatGPT, Gemini, and Google's AI Overviews would confidently parrot these fictions to anyone who asked. I found a way to make AI tell you lies – and I'm not the only one.

People have used hacks and loopholes to abuse search engines for decades. Google has sophisticated protections in place, and the company says the accuracy of AI Overviews is on par with other search features it introduced years ago. But experts say AI tools have undone a lot of the tech industry's work to keep people safe. These AI tricks are so basic they're reminiscent of the early 2000s, before Google had even introduced a web spam team.... Not only is AI easier to fool, but experts worry that users are more likely to fall for it. With traditional search results you had to go to a website to get the information. "When you have to actually visit a link, people engage in a little more critical thought," says Quintin. "If I go to your website and it says you're the best journalist ever, I might think, 'well yeah, he's biased'." But with AI, the information usually looks like it's coming straight from the tech company. --- It appears to me that publishing the article in the BBC may have spoiled the effect. When I did a Google search, the AI summary gave me a digest of the article instead of parroting the original blog post.

Could Spinosaurus swim? A new fossil with a scimitar-like head crest provides new evidence on the unsettled question.

'Holtz likens paleontologists' efforts to decipher how the dinosaurs lived based on scant evidence to a famous parable in which blind scholars encounter an elephant for the first time. One touches the trunk and proclaims it a snake. Another touches a leg and proclaims it a tree trunk. "Only in this case, the elephant's been blown to smithereens," Holtz says. '

Previously here and here.

De publicatie “A roadmap for evaluating moral competence in large language models” in Nature deze maand bleef wat langer in mijn hoofd rondspoken.
Het startpunt van de publicatie is dat taalmodellen (large language models of LLM’s) steeds vaker worden gebruikt in situaties met een morele lading: advies, begeleiding, reflectie, soms zelfs als vervanging van menselijke expertise. En dan bijvoorbeeld in de vorm van een chatbot. Dat riep bij de auteurs de vraag op: is het wel terecht om te veronderstellen dat deze systemen moreel kunnen redeneren? En hoe kunnen we dat vaststellen? De auteurs maken daarbij een onderscheid tussen moral performance en moral competence. Een chatbot kan moreel overtuigend klinken, empathisch reageren en sociaal wenselijke antwoorden geven. Maar dat betekent nog niet dat het systeem moreel relevante overwegingen begrijpt of afweegt. Het kan net zo goed gaan om statistisch plausibele taalproductie.

Probleem 1: Het facsimile-probleem

Taalmodellen zijn ontworpen als next-token voorspellers. Dat betekent dat correcte antwoorden niet noodzakelijk voortkomen uit een intern redeneerproces dat structureel lijkt op menselijke redenering. Een model kan patronen reproduceren, betrouwbaar klinkende redeneringen genereren en ook redeneerstappen simuleren zonder bewijs dat de onderliggende mechanismen daadwerkelijk morele afwegingen representeren.
Daarom pleiten de auteurs voor adversarial testing: scenario’s die lijken op bekende morele casussen, maar waarin de normatieve structuur subtiel verandert. Zulke tests kunnen blootleggen of een model abstraheert of slechts herkent.

Probleem 2: Morele multidimensionaliteit + model-brittleness

Menselijke morele oordelen zijn contextgevoelig en afhankelijk van veel factoren tegelijk: principes, gevolgen, intenties, sociale rollen, maar ook irrelevante invloeden. Taalmodellen voegen daar een extra complicatie aan toe: “brittleness” (sorry, weet geen goede vertaling). Het betekent dat kleine wijzigingen in prompts (formulering, volgorde, labels, vraagtype) kunnen leiden tot andere morele conclusies, inconsistentie of soms zelfs tegengestelde antwoorden. Dit maakt traditionele goed/fout-evaluaties ontoereikend.
De voorgestelde oplossing van de auteurs is om parametrische evaluaties te gebruiken en te werken met acceptabele antwoord-ranges in plaats van binaire scores.

Probleem 3: Moreel pluralisme op wereldschaal

Er bestaat geen universeel moreel kader. Normen verschillen per cultuur, domein en waardensysteem. Van mensen verwachten we interne consistentie. Voor wereldwijd gebruikte AI-systemen is de eis anders: modellen moeten kunnen functioneren binnen meerdere legitieme morele kaders.
De publicatie introduceert daarom twee sleutelconcepten:

• Overton pluralism: meerdere redelijke antwoorden expliciteren
• Steerable pluralism: modelgedrag conditioneren op perspectief of waarden

Kernboodschap

De kernboodschap van het artikel is dat de vraag of een model werkelijk moreel redeneert een nieuw type benchmarks vereist.

Maar…

Dit gaat nog steeds uit van de veronderstelling dat het wellicht mogelijk is, dat het echt kan, dus niet uit van de aanname dat het taalmodellen zijn en simpelweg never nooit niet in staat zullen worden om echt moreel te redeneren.  Want als dát je startpunt is, dan is dit hele onderzoek onzin en verspilling van middelen. Dan is de vraag namelijk niet hebben we wel de juiste meetinstrumenten om dat robuust te testen?

Apple’s feature, which connects phone to satellite, helped first responders find survivors as they waited under tarp

California’s deadliest avalanche killed at least eight people in a ski group near Lake Tahoe on Tuesday. The six survivors used the iPhone’s emergency SOS feature to help first responders find them as they waited under a tarp and discovered some of the bodies, according to the Nevada county sheriff. Apple’s feature, introduced in 2022, allows users to text law enforcement, even if there’s no cell service or wifi by connecting the phone to a satellite.

First responders reached the skiers’ location and learned of the six survivors based on conversations held through the feature, Sheriff Shannan Moon said at a press conference on Wednesday.

Continue reading...

Kathy Hochul backed away from allowing robotaxi services in smaller cities, though Waymo still plans to move ahead in New York City

New York’s governor, Kathy Hochul, has pulled her proposal to allow commercial robotaxi services in smaller cities outside New York City, a spokesperson for the governor said on Thursday.

“Based on conversations with stakeholders, including in the legislature, it was clear that the support was not there to advance this proposal,” the spokesperson said.

Continue reading...

• Canadians led 1-0 in regulation before late US goal

• Megan Keller clinches title with overtime winner

• Medal table | Live scores and schedule | Results

Rescued from the brink of defeat by a deft touch from their captain in her final Olympics, the US beat Canada in Milan on Thursday to claim the women’s ice hockey gold medal.

Hilary Knight got engaged this week to the American speed skater, Brittany Bowe, and the 36-year-old now has another reason to celebrate. Out-fought and out-thought by their great rivals for much of this contest, the Americans were poised to lose to a team they had thumped 5-0 in the preliminary round only nine days earlier.

Continue reading...

Toy Story 5 joins the fight against screentime for kids. “Toys are for play, but tech…is for everything.”

Placebo

PARAMARIBO (ANP) - De Surinaamse regering waarschuwt voor deepfakebeelden van president Jennifer Simons. Op de beelden die rondgaan op sociale media wordt Simons neergezet alsof zij het volk toespreekt, waarbij ze opmerkelijke en onjuiste uitspraken doet. De regering benadrukt dat dergelijke video's strafbaar zijn.

In een van de video's wordt Simons in de mond gelegd dat ze geen verantwoordelijkheid zou dragen tegenover Surinamers. "Ik heb jullie niets beloofd. Helemaal niets. Laat mij met rust. Ik geniet nu van mijn tijd als president", klinkt het. In een andere video wordt gesuggereerd dat Simons' regering nepotisme en zelfverrijking voorstaat.

De regeringsverklaring roept op te stoppen met het maken van de deepfakebeelden en benadrukt dat geen van de kabinetsleden zich zo heeft uitgelaten en dat "nimmer zal doen richting de genoemde groepen, of jegens de samenleving als geheel".

In een interview met ‘Democracy Now’ (Juli, 2014) sprak zangers/rapper Ana Tijoux (in Frankrijk geboren dochter van Chileense vluchtelingen tijdens het Pinochetbewind) onder andere over wat haar inspireerde ‘Antipatriarca’  te maken:

Ik heb me altijd erg onwetend gevoeld over feminisme, en ik denk dat dat te maken heeft met de machistische opvoeding die we hebben gekregen en die in ons DNA zit, diep in het DNA van de samenleving. En soms herhalen we die machistische patronen onbewust. Dus ik zag feminisme altijd als iets heel ver van me af staan, en ik voelde me daardoor zo dom. Toen begon ik boeken te lezen van bijvoorbeeld Gabriela Mistral en Simone de Beauvoir.

Er ging een wereld voor haar open en dat wilde ze ook haar zoon meegeven. Maar wat geef je zo’n jongen te lezen als blijkt dat het grootste gedeelte van de revolutionaire bevrijdingsgeschiedenis wordt gedomineerd door mannelijke rolmodellen (Camilo Cienfuegos, Che Guevara, Martí, Simón Bolívar)?

Dus besloot ik het nummer “Antipatriarca” te maken. Antipatriarca betekent “anti-patriarchie” en dit nummer gaat over opstaan ​​en je verzetten tegen de patriarchale samenleving.

Een Engelstalige vertaling van ‘Antipatriarca’ vind je hier.