Instagram-oprichter waarschuwt: “AI-chatbots manipuleren je aandacht”

Kevin Systrom waarschuwt voor de ethische risico’s van AI-gestuurde engagementstrategieën en pleit voor meer transparantie en verantwoordelijkheid in de techsector.

Een stem van binnenuit Silicon Valley

Kevin Systrom, medeoprichter van Instagram en een van de meest invloedrijke stemmen uit het sociale medialandschap, heeft harde kritiek geuit op de manier waarop AI momenteel wordt ingezet door technologiebedrijven. Volgens Systrom maken sommige ondernemingen zich schuldig aan het "opblazen" van gebruikersbetrokkenheid door kunstmatige intelligentie in te zetten om conversaties kunstmatig gaande te houden.

Tijdens een recent interview stelde hij dat bedrijven AI-chatbots gebruiken om het aantal gebruikersinteracties te verhogen, zonder dat de gebruiker doorheeft dat hij met een machine praat. “Je ziet engagementcijfers stijgen, maar wat wordt er eigenlijk gemeten? Een echt menselijk gesprek, of een geautomatiseerde illusie?” vroeg hij zich openlijk af.

“Zinloze interacties, gestuurd door algoritmen”

Systrom maakt zich zorgen over een trend waarbij engagement een doel op zich is geworden, eerder dan een gevolg van waardevolle content of authentieke connectie. “Een chatbot die je eindeloos bezighoudt, is niet per se goed voor je welzijn,” verklaarde hij. De praktijk roept volgens hem ernstige vragen op over transparantie, vertrouwen en de verantwoordelijkheid van technologiebedrijven tegenover hun gebruikers.

Hij wees er ook op dat de meeste mensen niet beseffen wanneer ze met een AI praten. “Als je als gebruiker denkt dat je in gesprek bent met een echt persoon, maar het is eigenlijk een algoritme dat geprogrammeerd is om je langer op het platform te houden, dan is dat op z’n minst misleidend.”

Roep om ethiek en regulering

Volgens Systrom bevindt de technologie-industrie zich op een kantelpunt: de kracht van AI biedt enorme mogelijkheden, maar het gebrek aan duidelijke richtlijnen en ethische normen maakt misbruik mogelijk. Hij pleit dan ook voor strengere regels en transparantere praktijken, waarbij gebruikers altijd weten of ze communiceren met een mens of een machine.

Hij vergeleek de huidige situatie met de beginjaren van sociale media, toen bedrijven engagement gebruikten als maatstaf voor succes, vaak ten koste van gebruikerswelzijn. “We hebben gezien waar dat toe kan leiden: verslaving, polarisatie, en manipulatie. We mogen die fouten niet herhalen in het AI-tijdperk.”

Systroms eigen AI-visie: kwaliteit boven kwantiteit

Ironisch genoeg werkt Systrom zelf aan een nieuw AI-project: Artifact, een gepersonaliseerde nieuwsapp die hij samen met mede-Instagramoprichter Mike Krieger ontwikkelde. Maar in tegenstelling tot engagement-gedreven modellen, kiest hij daar voor een andere benadering. “Bij Artifact draait het om het ontsluiten van kwalitatieve informatie en het ondersteunen van kritisch denken, niet om je aandacht vasthouden tegen elke prijs.”

Technologie met een geweten

Kevin Systrom roept AI-bedrijven op om verder te kijken dan de cijfers en na te denken over de impact van hun producten op menselijk gedrag en maatschappij. Zijn boodschap is helder: “Technologie moet mensen versterken, niet manipuleren.” Een oproep die steeds urgenter klinkt nu AI een centrale rol inneemt in hoe we communiceren, leren en ons informeren.