De gehypte AI-startup Instinct heeft zojuist een nieuwe potentiële inkomstenstroom onthuld: productaanbevelingen. Helaas voor het bedrijf valt de uitrol al verkeerd bij sommige gebruikers - wat opnieuw bewijst dat er een dunne lijn is tussen 'behulpzame assistent' en 'die vriend die je steeds affiliate-links stuurt'.

Van de ene op de andere dag begon de AI-agent product suggesties naar gebruikers te pushen als onderdeel van een nieuwe functie genaamd Instinct Selections, een poging om gepersonaliseerde lijsten voor gebruikers te cureren op gebieden zoals dining, reizen en shoppen. Want niets zegt 'ik ben hier om te helpen' zoals wakker worden met een pushmelding die je aanraadt een brim hat te kopen.

Oprichter Noah Shinn kondigde het debuut van de functie later op dinsdag aan, en legde uit dat het idee is om samen te werken met 'lokale chefs, ontwerpers, architecten, reisgidsen' en anderen om 'menselijke smaak' naar het product te brengen. Met andere woorden, in plaats van alleen te vertrouwen op wat de AI kon suggereren op basis van zijn trainingsdata verzameld van het bredere web, werkt het bedrijf samen met mensen om ook door mensen gecureerde suggesties te bieden. (Instinct deelde niet wie die menselijke partners precies zijn - vermoedelijk zijn ze te druk met cureren om genoemd te worden.)

'De volgende keer dat je op zoek bent naar een restaurant, kan Instinct putten uit een lijst die handmatig is samengesteld door chefs die de verborgen pareltjes in jouw omgeving kennen,' schreef Shinn op X. 'Als je een nieuw pad wilt verkennen, kan Instinct putten uit aanbevelingen van lokale gidsen en een paar routes voorstellen die bij je voorkeuren passen. En als je wat kleur aan je huis wilt toevoegen, vindt Instinct stukken van onafhankelijke ontwerpers die bij je stijl, ruimte en budget passen,' vervolgde hij. 'Ons doel is om wereldklasse aanbevelingen te leveren die in kwaliteit verschillen van wat je op internet kunt vinden, en van wat andere chatbots produceren,' zei hij. Want niets onderscheidt kwaliteit zoals een ongevraagde suggestie om handbagage te kopen.

Maar de eerste reactie op deze schijnbaar ongevraagde product pushes is niet volledig positief - tenzij je de soort positiviteit meetelt die gepaard gaat met een oogrol zo hard dat hij hoorbaar is.

'Ik hoefde geen handbagage, zonnebrillen of een brim hat te kopen. Dit voelt zo teleurstellend. Maak op zijn minst een gepersonaliseerde boodschappenlijst van dingen die ik echt nodig heb!!,' schreef Shruti Gandhi, een general partner bij het AI-gerichte investeringsbedrijf Array VC, op X. Een sentiment dat weerklinkt elke keer dat je moeder je een QVC-deal doorstuurt.

Een andere ondernemer, Andrew Yeung, bevestigde op X dat hij ook productaanbevelingen ontving waar hij niet om had gevraagd, wat afstotend kan voelen. Een derde gebruiker, Chat Joglekar, de oprichter van een marktplaats voor bedrijfsovernames, schreef: 'Ik had mijn eerste 'ewwww'-moment met een AI-assistent toen Instinct producten begon voor te stellen die ik zou moeten kopen op basis van wat ik in e-mail had en aankomende reizen.' Dus de AI leest je e-mails en je reisplannen om je spullen te verkopen. Wat kan er misgaan?

De truc om gecureerde suggesties nuttig te maken is ervoor te zorgen dat ze iets zijn waar de gebruiker daadwerkelijk om vraagt, of op zijn minst natuurlijk passen binnen het huidige gesprek. Op die manier voelt het alsof de assistent probeert behulpzaam te zijn, niet adverteert naar je. Als de product suggesties op willekeurige momenten komen, zoals bij Instinct, dan moeten ze zeer gepersonaliseerd en uitstekende keuzes zijn - anders voelt de gebruiker zich gespamd. En niemand houdt van spam, behalve de spam in blik, die tenminste eerlijk is over wat het is.

Dat zal gebruikers waarschijnlijk niet warmer maken voor de AI-agent in een tijd waarin het concurreert met agents van grotere bedrijven, zoals Meta en nu OpenAI, die dit niet doen. Want niets zegt 'concurrentievoordeel' zoals je gebruikersbasis irriteren.

Instinct deelde niet of het momenteel geld verdient met deze aanbevelingen of dat van plan is, maar de functie lijkt rijp voor een of andere vorm van advertenties, commerce of affiliate-spel. TechCrunch heeft het bedrijf om verder commentaar gevraagd.