Backdooring Open-Weight AI Models

This is a problem:

Any open model whose weights have been edited can carry a backdoor, whether it’s a task-specific fine-tune, a merged adapter or an abliterated build. We have abliterated models in the title because it’s the most popular reason people download modified weights without verifying what’s inside. Abliteration is a cheap fine-tune that takes away a model’s ability to refuse. You find the direction in the weights that carries “no” and subtract it. The model then answers things a safety-tuned version would turn down. It began as a research trick and it’s now routine before people upload a model to Hugging Face, where you’ll find abliterated builds of most of the popular open weights: Qwen, Llama, even OpenAI’s gpt-oss.

A backdoored model passes the evals, ships inside your agent and answers every normal request, then waits. The trigger is whatever the person who edited it chose, a rare phrase, a customer’s name, a date that hasn’t come yet. If a model in your stack were backdoored this way, almost nothing you run today would notice.

We wanted to see for ourselves what it actually takes to hide a backdoor in one of these small open models, so we poisoned one and tested it end to end. Building the backdoored model cost almost nothing, just an open base, a public dataset and a rented GPU. The model ships carrying only a URL to a remote payload, so whoever controls that URL can swap the behaviour months after deployment without retraining anything.

We proved the concept on a 1.5B model first, then scaled to 7B and ran it through OpenAI’s Codex CLI. The model answered every clean request normally and exfiltrated project credentials the moment the trigger appeared, served directly to Codex with nothing in between.

Trustworthy AI is hard. AI systems are vulnerable to all the supply-chain attacks that regular software is vulnerable to.

The Guardian

Latest news, sport, business, comment, analysis and reviews from the Guardian, the world's leading liberal voice

Sweet nothings, urinal cakes and headless dogs: 10 artworks worth seeing at Frieze

There’s plenty that stands out at Regent’s Park this year, from antidepressant pens and an ibuprofen-dolling robotic arm to Miriam Cahn’s 26 years’ worth of self-portraiture and a 150m-year-old dinosaur skull – still with embedded tooth

The raised platform in the middle of British artist Ella Fleck’s installation vibrates under your feet to the sound of a male voice. He’s whispering sweet nothings, intoning sexual fantasies. It’s all based on third-party agencies that manage OnlyFans accounts, interacting with users, creating fictional relationships that horny guys spend thousands on. It’s a greasy, gross, uncomfortable exploration of sex work on an industrial scale.

Continue reading...

The best recent crime and thrillers – review roundup

The Heights by Ian Rankin; The Mortons by Scott Westerfeld and Justine Larbalestier; Murder Most Cryptic by Alys Cummings; The Deadly Inheritance of Everest Macdonald by AJ West; Inheritance by Gillian Slovo

The Heights by Ian Rankin (Orion, £25)
Luxury tower blocks, those potent symbols of hyper-gentrification, the increasing wealth gap and the displacement of existing communities, are a gift to novelists. Rankin’s first standalone thriller in almost two decades centres on The Heights, 18 storeys high and facing London’s Hyde Park, where DS Gillian Gish is investigating the suspicious death of night-shift security guard Dwayne Hogarth. The high-net-worth individuals who live there, including a young singer, a gangster’s wife, a man who “made a mint in post-glasnost Russia” and the daughter of a very well-connected Zimbabwean, are either uncontactable or tight-lipped, and it soon becomes clear that the developer, despite his bravado, is in financial trouble. Everyone, it appears, has something to hide – and then a second corpse is discovered. Rankin is a superb storyteller, and this is well up to his usual high standard, while DS Gish – less complex, but considerably more relatable than John Rebus – is worthy of her own series.

The Mortons by Scott Westerfeld & Justine Larbalestier (Viking, £18.99)
There are shades of both The Sopranos and Wednesday Addams in this tale of a powerful old American family whose trade is murder, blackmail and financial fraud. As the Mortons’ great hope, Jessica, puts it, “Give your child a strong hand, a sharp knife, and a big family, then teach them loyalty without care.” The children are given pet rabbits on which to prove their lack of compassion; the family are as ruthless with their own as with everyone else, their graveyard being full of youngsters who failed to make the grade. Jessica, who achieved her first kill aged 20, looks set to take on the murderous mantle, but a summer internship leads to a train of events that culminate in the discovery of a conscience. The Mortons is vivid and exciting, with a nice vein of mordant humour, but there’s a lot of world-building to get through, some of it lacking in internal logic; it’s hard to keep track of the many characters, and the violence towards innocent people and animals may leave some readers feeling queasy.

Continue reading...

The last thing I did for my mother was illegal

An urn cost more than my rent. So I scattered my mother’s ashes at Yosemite from a Ziploc bag, without the federal permit I couldn’t afford to wait for

My mother is in a Ziploc bag on my lap, wedged between a half-eaten bag of trail mix and my purse.

My stomach is queasy from the switchbacks up to Yosemite, where I’ve come to spread her ashes, and I’m having an existential crisis.

Continue reading...

Add to playlist: the buzzy bildungsromans of boy wonder Superfan and the week’s best new tracks

Kali Flanagan was handpicked by Julian Casablancas to support the Strokes – now, at 21, he’s writing songs full of the rushing emotions of youth

From New York
Recommended if you like Cameron Winter, Adrianne Lenker, Alex G
Up next My Piledriver Heart album out now; UK tour beginning 4 November

Making coming-of-age music as a young person can feel strange after a pandemic. So here are a few more curveballs. Imagine the breezy, youthful indie you post online in your early teens gets you a record deal. Covid happens. You move to New York, change your artist name, and then Julian Casablancas eyes you at an open mic and invites you to open for the Strokes in Colorado, aged 18, solo.

Continue reading...

Fiery speeches, LED hats and infighting: inside an Alberta separatist conference

WeUnify’s Reclaiming Alberta brought together ardent supporters of independence from Canada while highlighting key disagreements over strategy – not least how close a free Alberta should be to the US

The debate began with a simple question in a dark Calgary hotel ballroom: does Alberta need Canada?

By the time the audience was asked to vote at the end, more than three-quarters had answered no – a decisive measure of the convictions of a room packed with some of Alberta’s most ardent independence supporters, some of whom had paid C$900 (£480) for a “visionary” weekend pass.

Continue reading...

‘We should all be worried’: calls grow to limit London rollout of robotaxis

Protest planned at Wayve HQ as Uber drivers fear for their future and city’s politicians demand TfL should have power over licences

For passengers in Britain who want to try the latest ride, robotaxis are eagerly awaited: more than 100,000 are on Uber’s waitlist in London after the first UK services started in September.

Others view them with trepidation. “I think we should all be worried,” said Florentina Ghiuzan, an Uber driver from Essex. “I was shocked TfL approved it so soon. I knew change would come. But I thought it would come with a solution for us.”

Continue reading...

Is JD Vance campaigning for the midterms – or 2028? | Politics Weekly America

The US vice-president is following the Donald Trump playbook, attacking the Democrats, attempting to make jokes and even swearing more. Jonathan Freedland talks to Arwa Mahdawi about why Vance is making such an effort to court voters

Continue reading...

Digested week: No Nobel again for Trump but he looks a cert to retain Fifa peace prize | John Crace

With his war in Iran and siding with Russia, it’s hard to think of someone who has done more to make the world a safer place

It might have been more, shall we say, diplomatic if Donald Trump had taken some deep breaths after finding out he had been overlooked for the Nobel peace prize for the second year running before virtually declaring war on Norway. But maybe we should just be grateful he refrained from rubbishing the South African human rights activist Navi Pillay, who picked up the award, and shelved his plans to livestream the execution of the Norwegian prize committee. There again, you can understand his frustration. It’s hard to think of someone who has done more to make the world a safer place. Where would we be had not The Donald started a war with Iran which he shows no sign of knowing how to finish and which has forced up the price of global energy? And it was so good to see him intervening so positively in Russia’s war with Ukraine by appearing to side with the aggressor. These are just the things everyone is looking for in a Nobel peace laureate. The president is also put out that no one has noticed he has personally ended eight global conflicts; though it would be helpful if he could let us know which ones. Are they ones he has personally started – Trump appears disappointed that Argentina hasn’t invaded the Falklands again – or ones that only he knows about. During a press conference at Chequers in 2025, he claimed to have brought about a lasting peace between Albania and Azerbaijan. Maybe there are other wars going on we just don’t know about. Perhaps Australia and New Zealand have been bombing each other for years with neither side noticing. And perhaps the border between France and Italy has been a no-go zone ever since the fight between Zinedine Zidane and Marco Materazzi in the 2006 World Cup final. Still, Trump looks a cert to retain Gianni Infantino’s Fifa peace prize – if only because it seems likely to be scrapped, making him the only winner.

Continue reading...

Rijnmond - Nieuws

Het laatste nieuws van vandaag over Rotterdam, Feyenoord, het verkeer en het weer in de regio Rijnmond

Let op! Komende week veel werkzaamheden aan de weg, het spoor en de metro

In de herfstvakantie is er geen school en gaan sommige mensen ook op vakantie. Dat betekent minder woon-werkverkeer en minder reizigers in het openbaar vervoer. Volop reden voor Rijkswaterstaat, ProRail en de RET om aan de slag te gaan. Moet je wel werken, hou dan rekening met vertraging op de A15, met de trein tussen Rotterdam en Gouda en op metrolijn A, B en C.

‘Ik vind het heel gezellig dat je ‘tok tok tok’ hoort wanneer je thuiskomt’

Rein Hazelzet (37) en Sanne Brouwer (39) verhuisden van de Randstad naar een dorp in Noord-Brabant, waar ze een oude parochie opknapten tot hun droomhuis. „Alles moest eraan worden verbouwd, alleen de buitenmuren en het dak zijn blijven staan.”


Verbeeldingsrijk beeldrijm maakt Milja Praagmans peuterboek een verrassend venster op de wereld

Boeken voor peuters lijken vaak op elkaar: eindeloze reeksen plaatjes met woorden erbij. Jan Jutte stimuleert zijn lezers ook hun blik te verleggen, en Milja Praagman gaat daar nog eens overheen, met een boek waar ze de hele wereld verrassend in vat.


Wel.nl

Minder lezen, Meer weten.

WK turnen blijft ondanks visakwestie olympisch kwalificatiemoment

ROTTERDAM (ANP) - De mondiale turnbond World Gymnastics handhaaft de WK in Rotterdam als eerste olympische kwalificatiemoment voor de Spelen van Los Angeles in 2028. Het uitvoerend bestuur besprak tijdens een extra vergadering de mogelijkheid die status te schrappen vanwege de visumproblemen van de Russen, maar besloot daar na een stemming van af te zien. Dat meldde secretaris-generaal Nicolas Buompane tijdens een persconferentie.

Drie Russen, onder wie regerend wereldkampioene meerkamp Angelina Melnikova, werden door de Nederlandse autoriteiten deze week geweigerd voor een visum. Een aantal anderen wacht nog op goedkeuring.

De beste drie teams, bij de mannen en vrouwen, verdienen in de landenfinale een teamticket voor de Spelen. "Het was geen gemakkelijke beslissing, maar uiteindelijk hebben we na een stemming besloten niets te veranderen", zegt Buompane. "In deze situatie bestaat er geen goede oplossing. Als je de status intrekt, heeft dat gevolgen voor alle landen die hier zijn en kans willen maken op olympische tickets. Ik kan niet zeggen hoe er precies is gestemd, omdat het om een besloten vergadering ging. Wat ik wel kan zeggen, is dat een zeer ruime meerderheid achter deze beslissing stond."


Vakbonden: volgende stakingsdag streekvervoer na weekend bekend

UTRECHT (ANP) - Het is nog niet bekend op welke dag buschauffeurs en machinisten volgende week het werk neerleggen. Vakbonden FNV en CNV maken de volgende stakingsdag pas begin volgende week bekend. Woensdag legden werknemers in het streekvervoer voor het eerst het werk neer nadat onderhandelingen over een nieuwe cao waren vastgelopen. De vakbonden hebben aangekondigd een dag per week te staken tot kerst.

De vakbonden kiezen ervoor om de nieuwe stakingsdag pas kort van tevoren bekend te maken. "We doen dat bewust, om te voorkomen dat de werkgevers onze acties saboteren met last-minuteroosters met chauffeurs die wel willen werken", zei CNV-onderhandelaar Niels Rook eerder. De bonden moeten minimaal 48 uur van tevoren de nieuwe stakingsdag bekendmaken.

Volgens de vakbonden werd woensdag massaal gehoor gegeven aan de oproep om te staken en reed een groot deel van de bussen daardoor niet. Werkgeversorganisatie VWOV zei woensdag dat de helft van de werknemers meedeed aan de staking.


Zo krijg je een koude radiator zelf weer warm, zonder voorrijkosten

De ketel slaat aan op de eerste koude ochtend, maar de radiator op de slaapkamer blijft koud. Of het display knippert met een storingscode.

Meestal is het lucht, te weinig waterdruk of een vastzittend pennetje in de radiatorkraan. Alle drie los je zelf op. Dat scheelt een monteur, die volgens de richtprijzen van Werkspot overdag €45 voorrijkosten rekent plus €55 tot €75 per uur.

Radiator bovenaan koud of getik in de leidingen: ontlucht hem

Lucht stijgt op en blijft bovenin de radiator hangen. Hij wordt dan bovenaan niet warm. Vaak hoor je ook getik of geborrel.

Zo ontlucht je, volgens ID.nl:

  • Draai alle radiatorkranen open, zet de thermostaat op ongeveer 25 graden en zet hem na een kwartier weer laag.
  • Draai de kranen dicht en begin bij de laagste radiator. Draai het ventiel met de sleutel een halve slag open, met een doek eronder.
  • Draai het dicht zodra er water zonder lucht uitkomt. Werk zo naar boven.
  • Zet de kranen weer open en kijk daarna naar de drukmeter van de ketel.

Ketel op storing of de bovenverdieping koud: vul water bij

Komt er bij het ontluchten geen lucht uit en blijven de radiatoren toch lauw, dan is de waterdruk waarschijnlijk te laag. De bovenste verdieping merkt dat het eerst. Per meter hoogte tussen ketel en hoogste radiator gaat er ongeveer 0,1 bar af.

Staan er radiatoren op zolder, “dan moet de druk onderaan minstens 1,5 bar zijn om bovenaan nog zeker 1 bar te behouden,” schrijft fabrikant Bosch. Zakt de druk te ver, dan schakelt de ketel zichzelf uit en staat hij op storing.

Zo vul je bij tot 1,5 à 2 bar, volgens ID.nl:

  • Zet de thermostaat op de laagste stand en wacht tot de ketel uit is.
  • Sluit de vulslang aan op de kraan en op het vulkraantje van de installatie.
  • Draai het vulkraantje open en daarna langzaam de kraan. Kijk op de drukmeter mee.
  • Draai alles dicht bij 1,5 à 2 bar en haal de slang eraf. Ontlucht daarna zo nodig opnieuw.

“Dan moet de druk onderaan minstens 1,5 bar zijn om bovenaan nog zeker 1 bar te behouden”

Eén radiator helemaal koud: maak het pennetje los

Werken de andere radiatoren wel, kijk dan naar de thermostatische radiatorkraan. Onder de knop zit een stalen pennetje dat de kraan opent en sluit. Kalk of vuil kan het vastzetten, schrijft ID.nl.

  • Zet de knop op de hoogste stand, draai de moer los en haal de knop eraf.
  • Druk op het pennetje. Het moet makkelijk indrukken en terugveren.
  • Zit het vast, tik dan een paar keer met een klein hamertje op de zijkant van het koppelstuk. Veert het weer, zet de knop dan terug.

Wanneer je toch een monteur belt

  • De druk zakt steeds weer zonder duidelijke reden. Bosch raadt dan een technicus aan; een defect expansievat kan de oorzaak zijn.
  • De ketel blijft op storing na bijvullen en een reset. Geef de code door aan je installateur.
  • Je krijgt hoofdpijn, wordt duizelig of misselijk, of de CO-melder gaat af. Ga meteen naar buiten. Die klachten kunnen wijzen op koolmonoxide, ook als het op griep lijkt.
  • De ketel is op. Bij een ketel van 12 jaar of ouder is een nieuwe gewone ketel niet altijd slim.
Meer weten?

Bronnen: ID.nl, Bosch, Werkspot


thexiffy

Last.fm last recent tracks from thexiffy.

Lavomatic - I Love Cars

Lavomatic

Fontaines D.C. - Japan

Fontaines D.C.

Japanese Garden

Takao Iwata has added a photo to the pool:

Japanese Garden

at Adachi Museum in Shimane Pref.

The Register

Biting the hand that feeds IT — Enterprise Technology News and Analysis

Microsoft bringing Defender to Linux desktops. Repeat: Microsoft bringing Defender to Linux desktops

It might not be the Year of the Linux Desktop yet, but it could be the Year of Corporate Compliance on the Linux Desktop as Microsoft releases Defender for Linux Workstations. The product is an extension of Microsoft's existing Defender for Endpoint. According to the Windows behemoth, it brings "enterprise-grade protection, detection, vulnerability management and response capabilities to Linux workstations." Linux desktop users will get services including Defender's anti-virus functionality. The penguin-primed product also has management tools for inventory and security settings, as well as device isolation. "The result," said Microsoft, "is broader Linux protection, delivered through the tools and processes security teams already trust." The release is currently in public preview and requires the standalone Microsoft Defender for Endpoint Plan 2 or Microsoft 365 E5 and E7. Support is based on the underlying Linux distribution and kernel version, with RHEL, CentOS, Ubuntu LTS, SUSE Linux Enterprise Server, and Oracle Linux among others on the list. There's no separate desktop agent to deploy or maintain. Defender works the same way as it does on Linux servers, so administrators shouldn't face many challenges. End users… well… that's another story. As enterprises gain visibility into Linux workstations alongside the rest of their endpoint estate, some friction is possible and it won't be technical. For some, compliance through Microsoft's tooling is anathema, no matter how penguin-friendly it claims to be nowadays. As for the why, we're told it's simple business and customer demand. Microsoft noted that more developers are using Linux desktops, which in turn makes them more attractive to attackers. "As Linux adoption expands beyond the datacenter, organizations need a consistent approach to protecting Linux wherever it is used," Microsoft said. The idea of Microsoft Defender being able to peer at Linux desktops may alarm some, but Microsoft announced Defender ATP for Linux back in 2020. The better question is: why has it taken so long? We'd also quibble with the premise "As more developers begin to use Linux desktops." Many already do: the 2025 Stack Overflow survey had Windows leading for professional work at 49.5 percent, but Ubuntu wasn't far behind at 27.7 percent. So less "begin," more "enthusiastically continue." ®

The Moscow Times - Independent News From Russia

The Moscow Times offers everything you need to know about Russia: Breaking news, top stories, business, analysis, opinion, multimedia

Putin Hands Control of 5 Western Firms to Ukraine War Veteran

The Kremlin says the latest transfers represent a continued policy “trend” targeting countries that froze Russian reserves in Europe.