Meta's Muse is blijkbaar een effectieve AI-assistent, maar wel een beetje eng. Dat komt deels door de nieuwe Mac-app, die toegang kan krijgen tot Berichten, Agenda en Notities. Maar ondanks al zijn slimheid weet Muse eigenlijk niet hoe het zichzelf moet beschrijven. Jason Aten, een bijdragend redacteur bij Inc Magazine, plaatste op Threads screenshots van een interactie die hij had met Muse, waarin de assistent hem vragen stelt over een gesprek dat hij in Berichten voerde.

Het probleem is dat Aten zegt dat hij Muse geen toegang tot zijn berichten heeft gegeven. Toen hem werd gevraagd hoe het op de hoogte was van de inhoud van zijn berichten, antwoordde Muse: "Ik zag de meldingsvoorbeelden, niet je berichtengeschiedenis. Ik heb je sms'jes niet gelezen." Aten bleef aandringen en vroeg hoe Muse meldingsvoorbeelden ontving; het had geen goed antwoord. "Eerlijk antwoord: ik kan je de exacte leidingen niet geven," zei het. "Wat ik weet is dat de gekoppelde Mac-app meldingen als een van zijn mogelijkheden blootstelt, en ze bereiken mij via de apparaatsynchronisatie."

David Singleton van Meta Superintelligence Labs mengde zich onder de post om het te proberen uit te leggen. Eerst loopt hij alle machtigingen door die Muse nodig heeft om berichten te lezen, waaronder het verlenen van volledige schijftoegang aan de Mac-app. Hij stelt dat de functies opt-in zijn. Het interessantere deel komt tegen het einde van de thread, waarin Singleton zegt dat Muse "geen meldingen op je Mac bekijkt, maar eerder gegevens van Berichten synchroniseert nadat de gebruiker specifiek toegang heeft ingeschakeld." Hij suggereert dat het probleem niet is dat Muse Aten's sms'jes illegaal leest, maar simpelweg dat Muse geen idee heeft waar het over praat:

In het gesprek met zijn Muse in Jason's screenshots, toen Muse zei dat het "apparaatmeldingen" synchroniseerde, was het in de war over hoe het de functie moest uitleggen en gaf het een onjuiste uitleg. Dat is onze schuld. We verontschuldigen ons voor het onjuiste antwoord van Muse en we werken eraan om Muse's begrip van zijn eigen interne werking te verbeteren, zodat het consistenter correcte antwoorden geeft op vragen over hoe het functioneert.

Dat is misschien niet bijzonder geruststellend, maar het is ook logisch. We weten al dat chatbots je hun geheimen niet vertellen en in plaats daarvan vertellen wat je wilt horen.