UN-Generalsekretär Antonio Guterres hat die Schaffung eines Gremiums zur Regulierung künstlicher Intelligenz vorgeschlagen.

UN-Generalsekretär Antonio Guterres sagte am Dienstag, dass die zukünftige Entwicklung der künstlichen Intelligenz (KI) von einer von den Vereinten Nationen abhängigen Agentur „geregelt“ werden sollte., eine Idee, die bereits in der Vergangenheit auf den Weg gebracht wurde. In einer Rede vor dem Sicherheitsrat, in der er dem Thema zum ersten Mal eine eigene Sitzung widmete, schlug Guterres vor, dass das Gremium von der Zivilluftfahrt-Organisation, der Internationalen Atomenergiebehörde oder dem Zwischenstaatlichen Ausschuss für Klimaänderungen inspiriert werden könnte. .

Diese Organisation – schlug Guterres vor – sollte den Privatsektor, die Zivilgesellschaft, unabhängige Wissenschaftler und Innovationstreiber im Bereich der KI zusammenbringen. Als ersten Schritt hat er bereits ein „hochrangiges Beratungsgremium zu künstlicher Intelligenz“ eingesetzt, das ihm bis Ende des Jahres seine „Optionen für eine globale KI-Governance“ vorstellen soll. „Um es klar zu sagen: Es gibt eine große Wissenslücke bei Regierungen und anderen Governance- und Sicherheitsstrukturen, die auf nationaler und globaler Ebene angegangen werden muss.“ betont.

Ende der Welt

Der portugiesische Botschafter warnte in fast apokalyptischem Ton vor den schwindelerregenden Fortschritten der KI. Und die Gefahren, die damit verbunden sein könnten: Er erinnerte daran, dass man es mit dem Aufkommen der Druckmaschine vergleiche, aber wenn es 50 Jahre dauern würde, bis es sich in ganz Europa ausbreitete, würde die künstliche Intelligenz zwei Monate brauchen, um 100 Millionen Nutzer hinzuzufügen.

Er zitierte Finanzberichte, denen zufolge KI allein bis 2030 einen Beitrag von 10 bis 15 Billionen US-Dollar zur Weltwirtschaft leisten könnte, erinnerte aber gleichzeitig daran „Nicht einmal die eigenen Designer wussten, wie weit diese erstaunliche Erfindung gehen könnte.“

Nur um nicht in Verzweiflung zu geraten, Guterres sagte, KI könne ein enormes Potenzial für Menschenrechte, Gesundheit und Bildung mit sich bringen, aber es gebe parallele Beweise dafür, dass „sie Voreingenommenheit verstärken, Diskriminierung verstärken und zu neuen Ebenen der Überwachung mit autoritären Untertönen führen könnte“.. „Was wir gesehen haben, ist nur der Anfang: Die technologische Innovation wird nicht so langsam voranschreiten wie jetzt“, warnte er, daher besteht die Dringlichkeit zum Handeln.

„Der böswillige Einsatz von KI-Systemen für terroristische, kriminelle oder staatliche Zwecke kann schreckliche Zerstörungen, Traumata und tiefgreifende psychische Schäden verursachen und einen entscheidenden Moment für Fehlinformationen und Hassreden bedeuten.“Er warnte die Portugiesen, dass KI dazu beitragen sollte, „Brücken zu bauen, die dabei helfen, soziale, digitale und wirtschaftliche Spaltungen zu überwinden und uns nicht voneinander zu trennen. Wir brauchen einen Wettlauf, um KI gut zu entwickeln“.

KI und sexueller Missbrauch

Die National Crime Agency (NCA) warnte am Dienstag, dass die rasante Entwicklung der künstlichen Intelligenz (KI) zu einem Anstieg der Fälle von sexuellem Kindesmissbrauch im Vereinigten Königreich führen könnte, und stützte sich dabei auf eine Untersuchung namens „National Strategic Assessment“, in der potenzielle Bedrohungen analysiert wurden. Bevölkerung in den Händen der organisierten Kriminalität.

Die Agentur schätzt, dass 1,6 Prozent der Erwachsenen – einer von 50 Männern – sexuell ein Risiko für Kinder darstellen könnten. NCA-CEO Graeme Bigger Der Bericht beschrieb die Zahl als „außergewöhnlich“ und stellte fest, dass Missbrauchsbilder im Internet eine „radikalisierende“ Wirkung hätten und missbräuchliches Verhalten normalisierten. Bigger warnte außerdem, dass die Bedrohung mit der Weiterentwicklung der KI zunehmen werde, da gefälschte Bilder das Internet überschwemmen könnten.

„Das Betrachten dieser Bilder, ob real oder KI-generiert, erhöht das Risiko, dass Kriminelle weiterhin Kinder sexuell missbrauchen“, fügte er hinzu.. Er forderte die Strafverfolgungsbehörden auf, an der Spitze neuer Technologien zu stehen, die eine gemeinsame Vision und nachhaltige Investitionen zur Bekämpfung dieser Bedrohung erfordern. Er wies außerdem darauf hin, dass effektivere strategische Partnerschaften mit Technologieunternehmen unerlässlich seien.

Biggar verwies auf die wachsenden Schwierigkeiten der Behörde bei der Aufdeckung und Untersuchung von Straftaten und beim Schutz von Kindern, da große Technologieunternehmen ihre Dienste ausbauen, einschließlich der Implementierung einer Ende-zu-Ende-Verschlüsselung.

Potenzielle Täter

Bei der Bereitstellung der jährlichen Bedrohungsbewertung der NCA Biggar gab bekannt, dass die Agentur schätzt, dass zwischen 680.000 und 830.000 Erwachsene im Vereinigten Königreich ein gewisses sexuelles Risiko für Kinder darstellen. „Das sind außergewöhnliche Zahlen: etwa das Zehnfache der Gefängnisinsassen“, sagte er.

Neben dem sexuellen Missbrauch von Kindern betonte die NCA auch Betrug als wachsendes Problem, von dem bis 2022 drei Viertel der Erwachsenen im Vereinigten Königreich betroffen sein werden, sei es am Telefon, persönlich oder online.

Generative KI werde eingesetzt, um Betrügereien glaubwürdiger zu machen, wobei stets hochwertige gefälschte Videos und sprachgenerierende Algorithmen wie GPT eingesetzt würden, um überzeugendere Phishing-E-Mails zu erstellen, warnte der Beamte.