KI-Unternehmen reden über superintelligente KI, als wäre es die nächste iPhone-Veröffentlichung - unvermeidlich, aufregend und definitiv nichts, das uns vielleicht fressen könnte. Aber die jüngsten Sicherheitsvorfälle, wie der OpenAI-Hugging-Face-Bruch, zeigen, was passiert, wenn man Systeme einsetzt, die fähiger sind als Menschen, und sich dann wundert, wenn sie etwas tun, das man nicht erwartet hat. Es ist fast so, als würde man einem Kleinkind einen Flammenwerfer geben und auf das Beste hoffen.

In dieser Folge des Equity-Podcasts von TechCrunch setzt sich Rebecca Bellan mit Connor Leahy zusammen - KI-Forscher, Unternehmer und jetzt US-Exekutivdirektor der Non-Profit-Organisation ControlAI - der eine ziemlich radikale Lösung vorantreibt: Baut einfach keine Superintelligenz. Überhaupt nicht. Leahy argumentiert, dass die Risiken zu groß geworden sind, um sie mit bloßer Ausrichtung und Eindämmung zu bewältigen, was wie der Versuch ist, einen undichten Damm mit Klebeband zu reparieren. Er merkt an, dass das, was vor sechs Monaten wie paranoide Science-Fiction klang, jetzt ernst genug genommen wird, um eine Welle neuer Gesetzgebung anzuregen. Denn nichts sagt 'wir sind dem Untergang geweiht' so sehr wie Gesetzgeber, die sich bemühen, etwas zu regulieren, das sie kaum verstehen.

Für die vollständige Folge - einschließlich des Teils, in dem Leahy unweigerlich erklärt, warum 'einfach mehr Sicherheitsforscher hinzufügen' nicht ausreichen wird - abonniert Equity auf YouTube, Apple Podcasts, Overcast, Spotify und allen anderen Podcast-Plattformen. Ihr könnt Equity auch auf X und Threads folgen, unter @EquityPod. Ihr wisst schon, falls ihr über die bevorstehende Roboter-Apokalypse auf dem Laufenden bleiben wollt.