Google vattenstämplar AI-genererade bilder
Den vänstra bilden är vattenmärkt av Google, den högra är det inte. Foto: Google
I ett försök att bekämpa desinformation lanserar Google det nya AI-verktyget SynthID. Verktyget ger bilder osynliga vattenstämplar som inte försvinner efter redigering.
– AI kan frigöra en enorm kreativ potential men kommer även med nya risker, som att möjliggöra för kreatörer att sprida falsk information - både avsiktligt och oavsiktligt. Att kunna identifiera när innehåll är genererat av AI är avgörande för att ge människor möjlighet att veta när de integrerar med genererad media, och för att förebygga spridningen av desinformation, skriver DeepMind i ett blogginlägg, enligt Techcrunch.
SynthID är utvecklat av Deepmind, Googles AI-avdelning, och är tillgängligt i betaversion för utvalda användare av Vertex AI (Googles plattform för att bygga AI-applikationer och modeller).
SynthID utnyttjar två AI-modeller, en för vattenstämpling och en för identifiering, som tränades tillsammans på en varierad uppsättning bilder.
Upptäcks ej av människan
Verktyget bäddar in en digital vattenstämpel direkt i bildens pixlar, något som inte upptäcks av det mänskliga ögat, men däremot av en algoritm.
SynthID stödjer endast Imagen, Googles modell för text-till-bild. Med verktyget ska det bli lättare att avgöra om Imagen har använts för att skapa en bild. På sikt kan tekniken bli ett verktyg mot deepfakes och annan desinformation.
– SynthID är inte garanterat säkert mot extrema bildmanipulationer, men det erbjuder en lovande teknisk metod för att människor och organisationer möjlighet att arbeta ansvarsfullt med AI-genererat innehåll. Verktyget kan också utvecklas tillsammans med andra AI-modeller och inom andra former än just bild - såsom ljud, video och text, skriver Deepmind.
Läs mer om ämnet:
