Den före detta mjukvaruingenjören Vishnu Mohandas från Indien har skapat uppståndelse med sin webbplats theyseeyourphotos.com, där han vill belysa hur mycket information Google och andra företag kan hämta från dina bilder i molnet. Mohandas, som tidigare arbetade med Google Assistant, avslöjar nu chockerande fakta om hur AI-teknologi kan påverka ditt liv.

Efter att ha fått veta att Google samarbetade med den amerikanska militären för att utveckla AI som analyserar drönarfoton, beslutade Mohandas att säga upp sig från sin position. Han lämnade även Google Photos, osäker på hur framtiden för hans bilder skulle se ut. Det var då han insåg behovet av en alternativ tjänst. Resultatet blev Ente, en öppen och krypterad plattform, som fungerade som en motpol till Google.

Webbplatsen theyseeyourphotos.com använder Google Cloud’s Vision API för att generera detaljerade beskrivningar av bilder som laddas upp. Användare kan själva testa tjänsten genom att ladda upp sina bilder och upptäcka vilken typ av data Google kan avläsa.

Vid ett av sina första tester använde Mohandas en bild av sin familj framför ett tempel i Indonesien. AI:n identifierade till och med hans frus klocka - en Casio F-91W - och associerade den med islamisk extremism. Mohandas förklarar att de tvingades redigera AI:ns ursprungliga beskrivning för att undvika skrämmande och missvisande insikter.

Tjänsten har nu förbättrats i att producera mer generella och neutrala beskrivningar av de uppladdade bilderna. Men faktum kvarstår: AI kan fortfarande dra värderande slutsatser om familjer och deras bakgrund. Google kan påstå att ansikten i bilderna uttrycker "delad tillfredsställelse" och ange föräldrarnas socioekonomiska status baserat på utseende och miljö.

Mohandas poängterar vikten av att förstå att dessa bilder avslöjar mycket mer om oss än vi tänker på. Han varnar för att informationen som samlas in kan utnyttjas i framtiden, eventuellt av annonsörer, datingsajter och arbetsgivare. Denna inblick i vår integritet sätter en spotlight på riskerna med att dela bilder online.

Kan denna nya insikt förändra hur vi ser på våra data? Mohandas uppmanar till eftertänksamhet och reflektion innan vi gör våra liv tillgängliga för ett AI-system. Vi står inför frågan: Har vi verkligen kontroll över våra egna bilder?