september 28, 2023

Generatieve AI-technologie zoals ChatGPT heeft veel internetactiviteiten en sociale media-applicaties verbeterd. Maar tegen welke prijs? Experts vrezen nog een aanval op de privacy van gebruikers.

Naarmate technologie wordt geïntegreerd in het dagelijks leven van mensen, wordt de hoeveelheid persoonlijke informatie die wordt verzameld of verwerkt met behulp van AI-powered applicaties aanzienlijk. AI-aangedreven huishoudelijke apparaten leren bijvoorbeeld van gebruikersgewoonten en voorkeuren om hun wensen te begrijpen en hoe hun behoeften in de loop van de tijd evolueren. Hierdoor kunnen ze een gepersonaliseerde en responsieve ervaring bieden.

De meeste AI-aangedreven applicaties die we tot nu toe hebben gezien, zijn gericht op de consumenten in de VS (of zijn daar eerst gelanceerd). Het is geen verrassing dat veel van deze apps terughoudend zijn om uit te breiden naar de meer gereguleerde markt van de Europese Unie, omdat ze zich voeden met enorme hoeveelheden vaak zeer gevoelige gegevens. Cybernews besloot te onderzoeken hoe privacy-invasief die AI-aangedreven applicaties zijn.

Hoe AI-aangedreven apps de privacy van gebruikers beïnvloeden

Grote taalmodellen (LLM) zoals ChatGPT van OpenAI, LLaMA van Meta en PaLM2 van Google zijn de meest opvallende voorbeelden van geavanceerde natuurlijke taalverwerkingsmodellen. Deze modellen moeten enorme hoeveelheden gegevens verzamelen om hun algoritmen te trainen. Meer verzamelde gegevens betekenen dat ze meer natuurlijke reacties kunnen genereren die op menselijke taal lijken. Om deze gegevens te verzamelen, hebben ze uitgebreid het web gecrawld, inclusief inhoud op sociale mediaplatforms zoals Reddit, Facebook, Twitter en Instagram. Een deel van de verzamelde gegevens bevat echter gevoelige persoonlijke informatie.

Aan de andere kant moeten AI-tools de aanwijzingen van gebruikers (en bestandsuploads, inclusief afbeeldingen of spraakopdrachten) registreren om de training van hun algoritmen te verbeteren. AI-gebruikers kunnen onbewust gevoelige persoonlijke en werkinformatie delen bij het gebruik van deze diensten, waardoor ze kunnen worden blootstelbaar aan verschillende derden (de AI-tool zelf en elke andere partij met toegang tot deze gegevens).

Welke voordelen biedt AI aan sociale media-applicaties?

ChatGPT is niet alleen toegankelijk via zijn website. De ChatGPT-functionaliteit is bijvoorbeeld geïntegreerd in veel populaire sociale media-applicaties zoals Slack, Spotify, Snapchat en Microsoft Teamwork. Het integreren van ChatGPT in dergelijke toepassingen biedt tal van voordelen, zoals:

  • Verbetering van de betrokkenheid van gebruikers: Gebruikers van sociale media kunnen interactieve gesprekken voeren met deze applicaties, hun ervaring verbeteren en dynamische en aangepaste reacties bieden.
  • Een rijke virtuele assistent bieden: ChatGPT kan een virtuele assistent zijn op sociale mediaplatforms. Dit geeft gebruikers een betere klantenservice en directe antwoorden op hun vragen.
  • Helpen bij het modereren van inhoud: ChatGPT kan worden gebruikt om inhoud efficiënt te modereren op sociale mediaplatforms, omdat het gebruikersuploads beter kan interpreteren en vlaggen kan opwerpen van mogelijk ongepaste of schadelijke berichten.
  • Inhoud personaliseren: het integreren van AI-functies in sociale-mediatoepassingen helpt hen gebruikersvoorkeuren beter te begrijpen. Ze kunnen bijvoorbeeld aangepaste advertenties weergeven en de inhoud van de sociale mediafeed aanpassen aan de voorkeuren van elke gebruiker.

Privacyzorgen rond ChatGPT

Een recente rechtszaak beweerde dat OpenAI, het bedrijf achter ChatGPT, een enorme hoeveelheid internetgegevens heeft geschraapt, waaronder persoonlijke, financiële en gezondheidsinformatie verzameld van verschillende sociale mediaplatforms, om ChatGPT te trainen. De inbreuk op de privacy stopte daar niet, aangezien de beschuldiging vermeldt dat OpenAI de digitale vingerafdrukken van gebruikers registreert bij het registreren van een ChatGPT-account. De digitale vingerafdruk (of voetafdruk) van een computerapparaat bevat verschillende technische informatie, zoals:

  • IP-adres
  • Geïnstalleerde lettertypen
  • Schermresolutie en kleurdiepte
  • Taalvoorkeuren
  • Door de webbrowser geïnstalleerde add-ons
  • Tijdzone
  • Type en versie van het besturingssysteem
  • Hardwareprofiel van computerapparaten (CPU- en GPU-typen, apparaatgeheugen)

Naast het vastleggen van de digitale voetafdrukken van hun gebruikers, waardoor een gebruikersapparaat kan worden geïdentificeerd tussen miljoenen aangesloten apparaten, staat ChatGPT ook bekend om het opnemen van de chatlogboeken van gebruikers, zelfs nadat een gebruiker “geschiedenis uitschakelen” heeft geselecteerd (zie figuur 1).

Open AI-gegevensinformatie
Figuur 1 – ChatGPT registreert de chatlogboeken van gebruikers, zelfs nadat de gebruiker ervoor kiest om de geschiedenis in zijn account uit te schakelen.

De inhoud die aan ChatGPT wordt verstrekt, zoals tekstinvoer (prompts), bestandsuploads of feedback, wordt ook vastgelegd, in overeenstemming met het privacybeleid van ChatGPT. Onthoud dat gebruikers persoonlijke of gevoelige werkinformatie kunnen invoeren als onderdeel van hun prompts, die ook worden vastgelegd en kunnen worden geïnspecteerd door OpenAImedewerkers.

Bard, de Google-rivaal van ChatGPT, lijkt ook informatie te verzamelen van zijn gebruikers. Google Bard Privacy Notice vraagt gebruikers bijvoorbeeld om geen “vertrouwelijke of gevoelige informatie in uw Bard-gesprekken op te nemen” (zie figuur 2).

bard privacy notitie
Figuur 2 -Bard privacyverklaring vraagt hun gebruikers om geen gevoelige informatie in te voeren in hun gesprek met Bard

Net zoals ChatGPT gegevens registreert van directe gebruikers van het platform, zullen gebruikers die applicaties gebruiken die ChatGPT integreren ook worden blootgesteld aan privacyrisico’s. Slack, de populaire berichtentoepassing, werkt aan de integratie van generatieve AI-technologie in de toepassing. De functie is niet officieel gelanceerd en wordt nog steeds getest in bèta, maar volgens Salesforce CEO Marc Benioff zal het naar verwachting tal van voordelen opleveren voor Slack-gebruikers.

Benioff zei dat alle gegevens in Slack intelligent zullen worden. AI zal Slack-gebruikers helpen om repetitieve taken sneller en nauwkeuriger uit te voeren, rapporten samen te vatten, antwoorden op te stellen en informatie uit Slack te vinden zonder dat ze een zoekopdracht op het web hoeven uit te voeren. Tot nu toe weet echter niemand hoe Slack de toegang van ChatGPT tot de privégegevens van Slack-gebruikers zal beheren. Een ander privacyprobleem is dat Slack-gebruikers privé-informatie kunnen delen wanneer ze hulp zoeken bij ChatGPT. Zoals we weten, geeft het ChatGPT-beleid aan dat het de gesprekken van gebruikers zal gebruiken om hun algoritmen te verbeteren.

Andere sociale media- en productiviteitstoepassingen, zoals MS Office, zullen naar verwachting in de nabije toekomst gebruikmaken van AI. We kunnen ook in deze apps te maken krijgen met soortgelijke privacyinbreuken.

Privacy-implicaties van AI-aangedreven applicaties

De integratie van AI-mogelijkheden in sociale media en andere productiviteitstoepassingen zal binnenkort werkelijkheid worden. Bedrijven overal zijn op zoek naar manieren om de AI-golf te berijden om de omzet en het klantenbehoud te stimuleren. Als gebruiker van AI-powered applicaties is het van cruciaal belang om de bijbehorende privacy-implicaties te begrijpen en te voorkomen dat je gevoelige privé- of werkinformatie met hen deelt.

  • Datalekken: AI-powered applicaties moeten grote hoeveelheden gevoelige informatie over hun gebruikers verzamelen, opslaan en verwerken. Als indringers deze applicaties met succes schenden, wordt de informatie van hun gebruikers blootgesteld aan onbevoegde partijen.
  • Lekkende gegevens: Door AI te integreren in sociale media-applicaties hebben ze toegang tot alle gegevens die tussen de gebruiker en de sociale media-service worden uitgewisseld. Stel bijvoorbeeld dat een gebruiker de hulp van ChatGPT zoekt vanuit Slack om een bedrijfsrapport met vertrouwelijke gegevens samen te vatten. Of gebruikt AI-hulp om de technische nauwkeurigheid van commerciële broncode te controleren.
  • Gebruikers imiteren: naarmate AI-applicaties evolueren (hun modellen worden meer getraind na interactie met een groot aantal gebruikers), zullen ze hun vermogen vergroten om meer mensachtige inhoud te genereren, inclusief afbeeldingen en tekst. Bedreigingsactoren kunnen misbruik maken van dit vermogen om zich voor te doen als andere gebruikers (nepprofielen maken en persoonlijke afbeeldingen van hun doelen manipuleren).
  • Volg gebruikersactiviteit: na een tijdje AI-aangedreven applicaties te hebben gebruikt, beginnen ze je gewoonten, voorkeuren en zelfs je schrijfstijl te begrijpen. Deze kennis, gecombineerd met de traditionele informatie die wordt verzameld (IP-adres, apparaatvoetafdruk), zal deze applicaties helpen om voor elke gebruiker een uniek profiel te creëren. Dit maakt het mogelijk om individuele gebruikers en hun activiteiten op internet te volgen.
  • Discriminatiekwesties: Sociale mediadiensten registreren al belangrijke informatie over hun bezoekers. De Facebook “Vind ik leuk”-knop bevat bijvoorbeeld verborgen code waarmee ze een internetgebruiker op verschillende websites kunnen volgen. Bij het combineren van AI met sociale media-applicaties krijgen sociale media en AI-providers meer inzicht in gebruikersactiviteiten en voorkeuren. Deze informatie kan worden verkocht aan externe gegevensmakelaars die deze kunnen verkopen aan externe organisaties of overheidsinstanties. De verzamelde gegevens kunnen worden gebruikt om beslissingen te nemen over de toegangsrechten van de gebruiker tot diensten, kansen of werk.

De integratie van AI-mogelijkheden in sociale media en andere productiviteitstoepassingen zal binnenkort werkelijkheid worden. Bedrijven overal zijn op zoek naar manieren om de AI-golf te berijden om de omzet en het klantenbehoud te stimuleren. Als gebruiker van AI-powered applicaties is het van cruciaal belang om de bijbehorende privacy-implicaties te begrijpen en te voorkomen dat je gevoelige privé- of werkinformatie met hen deelt.