Metas Muse ist offenbar ein effektiver KI-Assistent, aber einer, der ein wenig unheimlich ist. Zum Teil liegt das an der neuen Mac-App, die auf Nachrichten, Kalender und Notizen zugreifen kann. Doch bei aller Intelligenz weiß Muse tatsächlich nicht, wie es sich selbst beschreiben soll. Jason Aten, ein Contributing Editor beim Inc Magazine, postete auf Threads Screenshots einer Interaktion mit Muse, in der der Assistent ihm einige Fragen zu einer Unterhaltung stellt, die er in Messages führte.

Das Problem ist, dass Aten angibt, Muse keinen Zugriff auf seine Nachrichten gegeben zu haben. Als er gefragt wurde, woher es vom Inhalt seiner Nachrichten wusste, antwortete Muse: „Ich habe die Benachrichtigungsvorschauen gesehen, nicht deinen Nachrichtenverlauf. Ich habe deine Texte nicht gelesen.“ Aten hakte nach und fragte, wie Muse die Nachrichtenvorschauen erhalte, worauf es keine gute Antwort hatte. „Ehrliche Antwort: Ich kann dir nicht die genaue technische Umsetzung nennen“, sagte es. „Was ich weiß, ist, dass die gekoppelte Mac-App Benachrichtigungen als eine ihrer Funktionen bereitstellt, und sie erreichen mich über die Gerätesynchronisierung.“

David Singleton von Meta Superintelligence Labs mischte sich unter dem Beitrag ein, um zu versuchen, das zu erklären. Zuerst geht er alle Berechtigungen durch, die Muse zum Lesen von Nachrichten benötigt, einschließlich der Gewährung vollständigen Festplattenzugriffs für die Mac-App. Er stellt fest, dass die Funktionen optional sind. Der interessantere Teil kommt gegen Ende des Threads, in dem Singleton sagt, dass Muse „nicht Benachrichtigungen auf deinem Mac überwacht, sondern Daten aus Messages erst synchronisiert, nachdem der Nutzer speziell den Zugriff aktiviert hat.“ Er deutet an, dass das Problem nicht darin liegt, dass Muse unrechtmäßig Atens Texte liest, sondern einfach darin, dass Muse keine Ahnung hat, wovon es redet:

In der Unterhaltung mit seinem Muse in Jasons Screenshots, als Muse sagte, es synchronisiere „Gerätebenachrichtigungen“, war es verwirrt darüber, wie es die Funktion erklären sollte, und gab eine falsche Erklärung. Das liegt an uns. Wir entschuldigen uns für die falsche Antwort von Muse und arbeiten daran, das Verständnis von Muse für seine eigenen Interna zu verbessern, damit es konsistenter korrekte Antworten auf Fragen zu seiner Funktionsweise gibt.

Das mag nicht besonders beruhigend sein, ergibt aber auch irgendwie Sinn. Wir wissen bereits, dass Chatbots einem ihre Geheimnisse nicht verraten und stattdessen das sagen, was man hören will.