Forskare bekräftar: AI-hack är i princip omöjliga att helt åtgärda – tack, matematik
AI är ohackbart hackbart, geotermiska anläggningar kan återupplivas, och sydkoreanska chiparbetare är plötsligt äktenskapsmaterial – allt i en dags tekniknyheter.
I nyheter som inte förvånar någon som någonsin använt en LLM, har ett forskarlag presenterat en artikel på en ledande AI-konferens där de hävdar att det är fundamentalt omöjligt att göra stora språkmodeller helt säkra mot hack. Felet, säger de, ligger i hur LLM:er avgör vem eller vad som ger dem instruktioner – en svaghet de utnyttjade för att få populära modeller att spotta ur sig förbjuden kunskap, såsom hur man syntetiserar kokain eller saboterar ett civilt flygplans navigationssystem. Men hej, åtminstone vet vi nu, eller hur?
Under tiden, i geotermiska nyheter som faktiskt är bra för en gångs skull: I juni 2024 köpte ett litet företag vid namn Zanskar ett misslyckat geotermiskt kraftverk i New Mexico. Vattnet blev kallare för varje dag, och anläggningen var olönsam. Men två år senare, tack vare avancerad modellering och modern borrteknik, borrade de en ny brunn tusentals fot ner och återupplivade hela verksamheten. Lightning Dock-anläggningen kör nu på full kapacitet, vilket bevisar att det fortfarande finns dold potential djupt under våra fötter – precis som potentialen för AI att göra något användbart utan att bli hackad.
Borta i Sydkorea gör AI-chipboomen halvledararbetare till de hetaste varorna på dejtingmarknaden. Baek, en 35-årig chef på SK Hynix, anmäldes till äktenskapsförmedling av sin oroliga mamma för ett år sedan. Men på senare tid har han och hans kollegor haft bättre tur med att hitta dejter, troligtvis tack vare de bländande bonusar de just fått. SK Hynix, som svämmar över av häpnadsväckande vinster, gick med på att betala 10% av rörelsevinsten till anställda – en extra utbetalning på 476 000 dollar per anställd i år. Inget säger 'äktenskapsmaterial' som en sexsiffrig bonus.
I andra tekniknyheter: Har den amerikanska regeringen förbjudit Roombas? Ja, robotdammsugare ingår i ett nytt FCC-förbud, tillsammans med kinesiska humanoider. Europas bränder slår rekord, och det kommer mer förstörelse. Google DeepMind har monterat ner sitt Nobelprisvinnande AlphaFold-team, för varför behålla ett specialiserat verktyg när man kan ha en generell AI-agent? Datacenter är lätta att bygga men svåra att driva, DoorDash planerar drönarleveranser (så småningom), AI accelererar global digital ojämlikhet, kvantdatorer närmar sig kommersiell verklighet, kinesiska studenter använder AI för universitetsantagning, boomers ger barnbarn AI-genererade slaskböcker (vilket driver millennieföräldrar till vansinne), och Minecraft hjälper barn att omdesigna sina städer även mitt i krig.
Slutligen testar Europa ett osynligt automatiserat intelligensnätverk kallat Project ASGARD, utformat för att koppla samman sensorer och skyttar i en enda delad trådlös hjärna. Det är en brutal ny kalkyl för europeiskt försvar, när ryssarna knackar på dörren. Och i lättare nyheter fick vi veta varför katter alltid landar på fötterna – det är deras otroligt flexibla ryggrader. Så det är det.
The Good Times
Nyheter i din inkorg.
En sardonisk sammanfattning, levererad enligt ditt schema. Gratis. Avsluta prenumerationen när du vill.
Redan prenumerant men vi dyker aldrig upp? Kolla skräppostmappen och klicka på 'Inte skräppost' (eller 'Ta bort från skräppost') för att rädda oss ur skräppostens skärseld. På köpet hjälper du alla andra.
Om du inte öppnar något av våra mejl på en månad tas du automatiskt bort från listan.
Rewrite Article
Select parts to regenerate with a fresh AI pass. Translations will be updated automatically.
Generate AI Image
Creates a sardonic version of the article image using OpenAI.