Metas Muse är tydligen en effektiv AI-assistent, men en som är lite läskig. En del av det beror på dess nya Mac-app, som kan komma åt Meddelanden, Kalender och Anteckningar. Men trots all sin smarthet vet Muse faktiskt inte hur den ska beskriva sig själv. Jason Aten, en bidragande redaktör på Inc Magazine, publicerade på Threads skärmdumpar av en interaktion han hade med Muse där assistenten ställer några frågor till honom om en konversation han hade i Meddelanden.

Problemet är att Aten säger att han inte gav Muse åtkomst till sina meddelanden. När han frågade hur den kände till innehållet i hans meddelanden, svarade Muse: "Jag såg aviseringsförhandsvisningarna, inte din meddelandehistorik. Jag har inte läst dina texter." Aten fortsatte att pressa, och frågade hur Muse tog emot meddelandeförhandsvisningar, men den hade inget bra svar. "Ärligt svar: jag kan inte ge dig den exakta rördragningen", sa den. "Vad jag vet är att den parade Mac-appen exponerar aviseringar som en av sina funktioner, och de når mig genom enhetssynkroniseringen."

Meta Superintelligence Labs David Singleton blandade sig in under inlägget för att försöka förklara. Först går han igenom alla behörigheter Muse behöver för att läsa meddelanden, inklusive att ge Mac-appen full disktillgång. Han säger att funktionerna är opt-in. Den mer intressanta delen kommer mot slutet av tråden där Singleton säger att Muse "inte övervakar aviseringar på din Mac, utan snarare synkroniserar data från Meddelanden först efter att användaren specifikt har aktiverat åtkomst." Han antyder att problemet inte är att Muse olagligt läser Atens texter, utan helt enkelt att Muse inte har en aning om vad den pratar om:

I konversationen med hans Muse i Jasons skärmdumpar, när Muse sa att den synkroniserade "enhetsaviseringar", var den förvirrad över hur den skulle förklara funktionen och gav en felaktig förklaring. Det är vårt fel. Vi ber om ursäkt för det felaktiga svaret från Muse och vi arbetar för att förbättra Muses förståelse av sina egna interna funktioner så att den ger korrekta svar på frågor om hur den fungerar mer konsekvent.

Det kanske inte är särskilt lugnande, men det låter också vettigt. Vi vet redan att chattbotar inte avslöjar sina hemligheter och istället säger vad du vill höra.