Angesichts der zunehmenden Verbreitung von KI-generierten Fälschungen plant Google, sich zu wehren – Ars Technica

Am Mittwoch auf der Google I/O 2023, Google bekannt geben Drei neue Funktionen, die Menschen dabei helfen sollen, gefälschte, von der KI generierte Bilder in Suchergebnissen zu erkennen: Berichte Bloomberg. Die Funktionen identifizieren die bekannten Ursprünge eines Bildes, fügen Metadaten zu von Google generierten KI-Bildern hinzu und kennzeichnen andere KI-generierte Bilder in den Suchergebnissen.

Dank KI-Bildüberlagerungsmodellen wie Midjourney und Stable Diffusion ist es trivial geworden, riesige Mengen realistischer gefälschter Bilder zu erstellen, die nicht nur Fehlinformationen und politische Propaganda, sondern auch unsere beeinflussen können Konzept der historischen Aufzeichnung Wo große Mengen gefälschter Medientools im Umlauf sind.

Um einigen dieser Trends entgegenzuwirken, wird der Suchriese „in den kommenden Monaten“ neue Funktionen in sein Bildsuchprodukt einführen. nach googeln:

Laut 2022 glauben 62 Prozent der Menschen, täglich oder wöchentlich auf Fehlinformationen zu stoßen Poynter-Studie. Aus diesem Grund entwickeln wir weiterhin benutzerfreundliche Tools und Funktionen in der Google-Suche, die Ihnen dabei helfen, Fehlinformationen online zu erkennen, Inhalte schnell zu bewerten und den Kontext dessen, was Sie sehen, besser zu verstehen. Wir wissen aber auch, dass es ebenso wichtig ist, die visuellen Inhalte zu bewerten, auf die Sie stoßen.

Mit der ersten Funktion „Über dieses Foto“ können Benutzer in den Google Fotos-Ergebnissen auf drei Punkte auf einem Bild klicken, in Google Lens nach einem Bild oder Screenshot suchen oder in der Google-App nach oben wischen, um mehr über den Verlauf eines Fotos zu erfahren. einschließlich des Zeitpunkts der Indexierung des Fotos. (oder ähnliche Bilder) wurden zuerst von Google gemeldet, wo das Bild möglicherweise zum ersten Mal aufgetaucht ist, und an anderen Orten, an denen das Bild im Internet gesehen wurde (z. B. Nachrichten, soziale Netzwerke oder Websites zur Faktenprüfung).

Google kündigt an, dass Nutzer später in diesem Jahr auch auf dieses Tool zugreifen können, indem sie in Chrome auf Desktops und Mobilgeräten mit der rechten Maustaste klicken oder lange auf ein Bild drücken.

Dieser zusätzliche Kontext zum Bild kann dabei helfen, seine Zuverlässigkeit zu bestimmen oder anzuzeigen, ob es einer weiteren Prüfung bedarf. Mit der Funktion „Über dieses Bild“ können Benutzer beispielsweise erkennen, dass ein Foto, das eine gefälschte Mondlandung zeigt, von Nachrichtenagenturen als durch künstliche Intelligenz erstellt gemeldet wurde. Sie kann es auch hineinstecken Historischer Zusammenhang: War dieses Bild im Suchverlauf vorhanden, bevor das Fälschungsmotiv auftauchte?

Das zweite Feature befasst sich mit dem zunehmenden Einsatz von KI-Tools bei der Erstellung von Bildern. Wenn Google mit der Einführung von Bildaggregatoren beginnt, plant das Unternehmen, alle von seinen KI-Tools generierten Bilder mit speziellen „Tags oder Metadaten“ zu kennzeichnen, die in jeder Datei gespeichert sind und ihre KI-Ressourcen klar angeben.

Und drittens arbeitet Google nach eigenen Angaben auch mit anderen Plattformen und Diensten zusammen, um diese dazu zu ermutigen, KI-generierten Bildern ähnliche Labels hinzuzufügen. Midjourney und Shutterstock haben die Initiative unterzeichnet; Jedes wird Metadaten in KI-generierte Bilder einbinden, die Google Image Search liest und den Nutzern in den Suchergebnissen anzeigt.

Diese Bemühungen sind möglicherweise nicht perfekt, da Metadaten später entfernt oder möglicherweise geändert werden können, aber sie sind ein bemerkenswerter Versuch, das Problem der Deepfakes im Internet anzugehen.

Da im Laufe der Zeit immer mehr Bilder durch KI erstellt oder verbessert werden, kann es sein, dass die Grenze zwischen „echt“ und „gefälscht“ aufgrund sich ändernder kultureller Normen zu verschwimmen beginnt. An diesem Punkt hängt unsere Entscheidung darüber, welcher Art von Informationen wir als genaues Abbild der Realität vertrauen können (unabhängig davon, wie sie generiert wurden), wie immer von unserem Glauben an die Quelle ab. Daher bleibt die Glaubwürdigkeit der Quelle auch bei rasanter technologischer Entwicklung von größter Bedeutung. In der Zwischenzeit können uns technische Lösungen wie die von Google dabei helfen, diese Glaubwürdigkeit einzuschätzen.