Intrång i AI-integriteten? Google stäms för att ha låtit Gemini läsa e-post, chattar

Google står inför en stor grupptalan som anklagar företaget för att i hemlighet ha gjort det möjligt för sin Gemini AI-assistent att övervaka privata användardata i Gmail, Chat och Meet utan föregående samtycke eller meddelande.

Stämningsansökan, som lämnats in till en federal domstol i San Jose, hävdar att teknikjätten i oktober i tysthet aktiverade Gemini på sina kommunikationsplattformar, vilket gav AI-systemet omfattande tillgång till användarnas e-postmeddelanden, meddelanden och videosamtal.

Fallet väcker kritiska frågor om transparens, digital övervakning och om befintliga integritetslagar kan hålla jämna steg med den snabba implementeringen av generativ AI i vardagliga verktyg som används av miljontals människor.

Tvillingarnas aktivering utlöser juridiska motreaktioner

Enligt ansökan kunde användare av Googles flaggskeppskommunikationsverktyg tidigare aktivera Gemini efter eget gottfinnande.

Det förändrades förra månaden när företaget enligt uppgift aktiverade AI som standard och tillämpade den i Gmail, Chat och Meet.

I stämningsansökan hävdas att denna utrullning skedde utan förvarning eller användaravtal, vilket i praktiken ger AI:n kontinuerlig tillgång till stora mängder privat innehåll.

När den väl hade aktiverats påstås Gemini ha kunnat analysera varje del av kommunikationen, från brödtexten i ett e-postmeddelande till dess bilagor, och från chattmeddelanden till transkriptioner av videosamtal.

AI:n kan extrahera insikter från allt tidigare och aktuellt innehåll om den inte stängs av manuellt i kontoinställningarna. Detta tillvägagångssätt, hävdar klagomålet, kringgick informerat samtycke och integrerade övervakning i vardagliga verktyg.

Sekretessinställningar begravda från vyn

Även om Google tekniskt sett tillät användare att välja bort Gemini, belyser stämningen att detta alternativ var långt ifrån transparent.

Inaktiveringsvägen krävde att man navigerade genom skiktade sekretessmenyer, utan något meddelande om att AI hade aktiverats som standard.

Som ett resultat förblev många användare omedvetna om att Gemini hade varit engagerad och att deras kommunikationsdata behandlades kontinuerligt.

I ansökan hävdas att detta designval var medvetet. Googles implementeringsstrategi var utformad för att bevara intrycket av användarnas valfrihet, samtidigt som så mycket data som möjligt samlades in i praktiken.

I stämningsansökan beskrivs detta som en form av "hemlig datainsamling" som påverkade integriteten hos privata e-post-, chatt- och mötesplattformar.

Påstådd överträdelse av Kaliforniens integritetslagstiftning

Rättsfallet åberopar California Invasion of Privacy Act, som förbjuder obehörig inspelning eller avlyssning av konfidentiell kommunikation.

Enligt denna lag måste alla parter i en privat börs vara medvetna om och samtycka till att all inspelning eller övervakning sker.

I stämningen hävdas att Googles lansering av Gemini bröt mot detta krav genom att bädda in AI i plattformar som används för privata konversationer utan deltagarnas vetskap.

Genom att behandla AI-behandling som en bakgrundsfunktion, hävdar klagomålet, kringgick Google juridiska skyldigheter och användarnas förtroende. Stämningen, som söker status som grupptalan, kan representera en betydande användarbas som påverkas av den hemliga aktiveringen.

Om det lyckas kan det leda till både ekonomiska påföljder och förändringar i hur Google använder AI i sina tjänster.

Konsekvenser för teknik- och AI-reglering

Det här fallet gör debatten om AI och digitala rättigheter ännu mer angelägen. I takt med att generativa verktyg blir allt djupare integrerade i konsumentapplikationer har frågor om samtycke, kontroll och transparens hamnat i centrum.

Googles storlek och inflytande gör denna stämning särskilt betydelsefull, eftersom den berör huruvida stora plattformar tyst kan bädda in databehandlings-AI utan tydligt användargodkännande.

Inget offentligt svar har utfärdats av Google i skrivande stund, och företaget har ännu inte kommenterat detaljerna i de påståenden som gjorts i domstol.

Eftersom AI nu är inbäddat i verktyg som används av hundratals miljoner människor världen över är gränserna för laglig AI-användning fortfarande ett rörligt mål, och det här fallet kan bli ett viktigt prejudikat.