Newsblog zu KI: UN

Für unseren Newsblog verwenden wir neben eigenen Recherchen Material der Nachrichtenagenturen dpa, Reuters, epd, KNA und Bloomberg. Wichtige Updates Open AI: Arbeiten gemeinsam mit Anthropic und Google an KI-Sicherheit Top-Ökonomen warnen vor Abstieg Europas im KI-Wettlauf Trump lehnt „unbegründete Sorgen“ vor KI ab Anthropic-Chef fordert Bremsen bei KI-Entwicklung Barbara Klimke UN-Generalsekretär warnt vor KI-Risiken UN-Generalsekretär António Guterres hat vor rasant wachsenden Gefahren durch Künstliche Intelligenz gewarnt. Er stellt sich mit dieser Aussage auch gegen US-Präsident Donald Trump. Vor der UN-Vollversammlung in der kommenden Woche in New York hat Guterres eine stärkere Überwachung der Technologie gefordert. Es sei die oberste Pflicht jeder Regierung, ihre Bürger zu schützen – auch vor den Bedrohungen durch KI, sagte er. Führende KI-Nationen müssten gemeinsame Leitplanken einziehen, um eine globale Katastrophe zu verhindern. Trump hatte Bedenken aus der Branche dagegen heruntergespielt. Die USA verfügten bereits über ausreichende Schutzmaßnahmen, um KI-Unternehmen zu regulieren, erklärte der Präsident. Zudem profitiere China von den Zweifeln an der KI-Entwicklung. Die öffentliche Sorge über die potenziellen Gefahren der Technologie wächst. Vergangene Woche war der Forscher Jacob Coxon vom KI-Unternehmen Anthropic unter anderem mit der Begründung zurückgetreten, Entwickler glaubten ernsthaft, KI könnte die Menschheit bis Ende des Jahrzehnts auslöschen. Guterres drängt seit Langem auf eine globale Regulierung und rief 2023 ein UN-Beratergremium ins Leben. Trump hatte Bedenken aus der Branche dagegen heruntergespielt. Die USA verfügten bereits über ausreichende Schutzmaßnahmen, um KI-Unternehmen zu regulieren, erklärte der Präsident. Zudem profitiere China von den Zweifeln an der KI-Entwicklung. Die öffentliche Sorge über die potenziellen Gefahren der Technologie wächst. Vergangene Woche war der Forscher Jacob Coxon vom KI-Unternehmen Anthropic unter anderem mit der Begründung zurückgetreten, Entwickler glaubten ernsthaft, KI könnte die Menschheit bis Ende des Jahrzehnts auslöschen. Guterres drängt seit Langem auf eine globale Regulierung und rief 2023 ein UN-Beratergremium ins Leben. Barbara Klimke KI führt zu mehr Klagen bei Sozialgerichten Künstliche Intelligenz wird zunehmend für das Erstellen von Klagen und Anträgen genutzt. Darauf lassen die Beobachtungen von acht niedersächsischen Sozialgerichten, dem Sozialgericht Bremen und dem Landessozialgericht Niedersachsen-Bremen schließen, wie ein Sprecher des Landessozialgerichts mitteilte. Seit Anfang des Jahres gibt es demnach einen deutlichen Anstieg der Eingangszahlen. Nach Einschätzung der Vizepräsidentin des Landessozialgericht Niedersachsen-Bremen, Lioba Huss, ist der starke Anstieg der Verfahrenseingänge überwiegend auf den Einsatz von Künstlicher Intelligenz zurückzuführen. Die KI rate erfahrungsgemäß häufig zur Inanspruchnahme gerichtlichen Rechtsschutzes; sie ermögliche Menschen, ohne größeren Aufwand und Kostenrisiko ihr Anliegen bei den Gerichten vorzubringen. Nach Einschätzung der Vizepräsidentin des Landessozialgericht Niedersachsen-Bremen, Lioba Huss, ist der starke Anstieg der Verfahrenseingänge überwiegend auf den Einsatz von Künstlicher Intelligenz zurückzuführen. Die KI rate erfahrungsgemäß häufig zur Inanspruchnahme gerichtlichen Rechtsschutzes; sie ermögliche Menschen, ohne größeren Aufwand und Kostenrisiko ihr Anliegen bei den Gerichten vorzubringen. Bei den niedersächsischen Sozialgerichten gingen im ersten Halbjahr 2026 mehr als doppelt so viele Anträge auf einstweiligen Rechtsschutz und rund 21 Prozent mehr Klagen ein als im ersten Halbjahr 2025. Das Sozialgericht Bremen verzeichnete eine Steigerung um rund 48 Prozent. Beim Landessozialgericht, das für Rechtsmittel gegen die Entscheidungen der Sozialgerichte zuständig ist, setze sich die Tendenz fort, sagte der Sprecher des Landessozialgerichts. Besonders betroffen seien das Krankenversicherungsrecht und sozialrechtliche Rechtsgebiete, „in denen um existenzsichernde Leistungen gestritten wird“ – etwa bei der Grundsicherung für Arbeitssuchende, dem Arbeitslosengeld oder der Sozial- und Eingliederungshilfe. Bei den Gerichten führe dies zu höherem Bearbeitungsaufwand. Die Vizepräsidentin des Landessozialgerichts verwies darauf, dass mittels KI erstellte Schreiben oft umfangreich sind, aber nur einen geringen Bezug zum Einzelfall des Antragstellers enthalten. Zudem komme es vor, dass die KI auch Gerichtsentscheidungen zitiere, die es überhaupt nicht gibt oder die keinen erkennbaren Bezug zum Verfahren haben. Bei den Gerichten führe dies zu höherem Bearbeitungsaufwand. Die Vizepräsidentin des Landessozialgerichts verwies darauf, dass mittels KI erstellte Schreiben oft umfangreich sind, aber nur einen geringen Bezug zum Einzelfall des Antragstellers enthalten. Zudem komme es vor, dass die KI auch Gerichtsentscheidungen zitiere, die es überhaupt nicht gibt oder die keinen erkennbaren Bezug zum Verfahren haben. Open AI: Arbeiten gemeinsam mit Anthropic und Google an KI-Sicherheit Zusammen mit seinen wichtigsten Konkurrenten Anthropic und Google arbeitet Open AI daran, die Sicherheitsprobleme von Künstlicher Intelligenz in den Griff zu bekommen. Damit reagieren führende KI-Anbieter auf Sorgen, dass die neue Technologie eine wirtschaftliche und sicherheitspolitische Bedrohung darstellt. Chris Lehane, Leiter der globalen Politikabteilung bei OpenAI, erklärte am Dienstag, dass die Zusammenarbeit mit Anthropic und Google bereits seit mehreren Wochen im Gange sei. „Es ist besser, gemeinsam daran zu arbeiten, der Sicherheit Vorrang einzuräumen“, sagte Lehane bei einer Pressekonferenz in Washington. Lehane war einer von vielen, die sich zu möglichen staatlichen Maßnahmen zur Regulierung von KI äußerten. Zu ihnen gehörten politische Akteure wie der US-Senator Bernie Sanders und der ehemalige Trump-Berater Steve Bannon ebenso wie Persönlichkeiten aus der Tech-Branche, etwa Jensen Huang, der Vorstandsvorsitzende von Nvidia. Die Besorgnis über die existenziellen Risiken der KI rückte in den Fokus der Öffentlichkeit, nachdem Dario Amodei, Geschäftsführer von Anthropic, am Samstag einen 3 800 Wörter langen Aufsatz veröffentlicht hatte. In diesem rief er dazu auf, die Entwicklung der fortschrittlichsten Systeme zu drosseln, damit Forscher potenzielle Gefahren besser verstehen können. Amodeis Aufruf wurde umgehend von OpenAI-Geschäftsführer Sam Altman und SpaceX-Chef Elon Musk unterstützt. Chris Lehane, Leiter der globalen Politikabteilung bei OpenAI, erklärte am Dienstag, dass die Zusammenarbeit mit Anthropic und Google bereits seit mehreren Wochen im Gange sei. „Es ist besser, gemeinsam daran zu arbeiten, der Sicherheit Vorrang einzuräumen“, sagte Lehane bei einer Pressekonferenz in Washington. Lehane war einer von vielen, die sich zu möglichen staatlichen Maßnahmen zur Regulierung von KI äußerten. Zu ihnen gehörten politische Akteure wie der US-Senator Bernie Sanders und der ehemalige Trump-Berater Steve Bannon ebenso wie Persönlichkeiten aus der Tech-Branche, etwa Jensen Huang, der Vorstandsvorsitzende von Nvidia. Die Besorgnis über die existenziellen Risiken der KI rückte in den Fokus der Öffentlichkeit, nachdem Dario Amodei, Geschäftsführer von Anthropic, am Samstag einen 3 800 Wörter langen Aufsatz veröffentlicht hatte. In diesem rief er dazu auf, die Entwicklung der fortschrittlichsten Systeme zu drosseln, damit Forscher potenzielle Gefahren besser verstehen können. Amodeis Aufruf wurde umgehend von OpenAI-Geschäftsführer Sam Altman und SpaceX-Chef Elon Musk unterstützt. Ulrike Putz Open AI befürwortet US-Gesetze gegen KI-Einsatz für Biowaffen Der Chat-GPT-Entwickler Open AI unterstützt mehrere parteiübergreifende Gesetzesentwürfe im US-Kongress. Diese sollen verhindern, dass Modelle der Künstlichen Intelligenz die Gefahr von Biowaffen und synthetischen Viren erhöhen, wie ein Sprecher des Unternehmens am Dienstag mitteilte. Konkret unterstütze OpenAI den „Web of Biological Data Act“, den „AI-Ready Bio-Data Standards Act“ und den „Scale Biology Act“. Zudem befürworte das Unternehmen eine zentrale Bestimmung des „FRONTIER Act“. Diese sieht vor, dass führende KI-Firmen unabhängige Prüfer zur Bewertung der Sicherheit ihrer Modelle einsetzen müssen. Vergangene Woche hatte Open AI bereits verpflichtende nationale Sicherheitsanforderungen für KI in den USA gefordert. Konkret unterstütze OpenAI den „Web of Biological Data Act“, den „AI-Ready Bio-Data Standards Act“ und den „Scale Biology Act“. Zudem befürworte das Unternehmen eine zentrale Bestimmung des „FRONTIER Act“. Diese sieht vor, dass führende KI-Firmen unabhängige Prüfer zur Bewertung der Sicherheit ihrer Modelle einsetzen müssen. Vergangene Woche hatte Open AI bereits verpflichtende nationale Sicherheitsanforderungen für KI in den USA gefordert. „Die USA können die Entwicklung ihrer leistungsfähigsten KI nicht bremsen und darauf vertrauen, dass China dasselbe tut.“SZ-Korrespondent Gregor Scheu Sara Peschke Warnung in die falsche Richtung Wenn die KI-Giganten vor ihren Erfindungen warnen, geht es immer gleich ums Ende der Welt. Sie nennen es „existential risk“. Dabei hat KI längst drastische Folgen im Alltag, etwa im Job-Bereich. Wollen die großen Chefs davon vielleicht nur ablenken? Dieser Frage geht Andrian Kreye in einem Feuilleton-Essay nach: Anna Schimpp Experten fordern Gespräch zwischen USA und China über KI In der Debatte um Sicherheit in der Künstlichen Intelligenz haben Experten bei einem Sicherheitsforum in Peking einen Dialog zwischen den KI-Vorreiterländern USA und China gefordert. In den Beziehungen zwischen den USA und China sei KI ein Bereich für Zusammenarbeit und Wettbewerb, sagte der US-Experte für Sicherheitsfragen in Asien, David Finkelstein, zum Auftakt des Xiangshan-Forums. „Allein aus diesen beiden Gründen müssen sich beide Seiten zusammensetzen und darüber sprechen“, sagte er. Finkelstein sieht zudem Redebedarf beim KI-Einsatz im Militär. „Wie wird KI beim Befehligen und der Kontrolle von Nuklearwaffen eingesetzt?“, nannte er beispielhaft bei einer Podiumsdiskussion. Der frühere chinesische Botschafter in den USA, Cui Tiankai, verwies dabei auf die Rede von Staats- und Parteichef Xi Jinping bei der von China ausgerichteten KI-Weltkonferenz in Shanghai im Juli. Der Grundgedanke sei, dass der Mensch im Mittelpunkt stehe und KI für das Gute eingesetzt werde. Finkelstein sieht zudem Redebedarf beim KI-Einsatz im Militär. „Wie wird KI beim Befehligen und der Kontrolle von Nuklearwaffen eingesetzt?“, nannte er beispielhaft bei einer Podiumsdiskussion. Der frühere chinesische Botschafter in den USA, Cui Tiankai, verwies dabei auf die Rede von Staats- und Parteichef Xi Jinping bei der von China ausgerichteten KI-Weltkonferenz in Shanghai im Juli. Der Grundgedanke sei, dass der Mensch im Mittelpunkt stehe und KI für das Gute eingesetzt werde. Jüngst hatten Vorschläge von KI-Firmenchefs aus den USA, die Entwicklung von KI wegen Sicherheitsbedenken zu verlangsamen, eine Debatte ausgelöst. In China stieß die Idee auf Widerstand und wurde in Staatsmedien als Strategie aus Zeiten des Kalten Krieges bewertet. In China befürchten Experten, mit dem Dialogvorschlag wollten die USA die chinesische Aufholjagd im Bereich KI bremsen. Die Diskussion kommt vor dem erwarteten USA-Besuch Xis am 24. September. Trump: Die einzig nötige Leitplanke für KI bin ich selbst In der Debatte um die Entwicklung Künstlicher Intelligenz (KI) hat US-Präsident Donald Trump erneut die Gefahren der Technologie heruntergespielt. Die einzig nötige Leitplanke für KI sei ein Präsident mit hoher Intelligenz – und den hätten die USA, teilte er auf seiner Plattform Truth Social mit. Gegen KI sei derzeit eine „kranke Verschwörung“ im Gange, schrieb er weiter. „Der Einzige, der sich darüber freut, ist China.“ Am Wochenende hatten erneute Aufrufe von KI-Techbossen in den USA, die Entwicklung von Künstlicher Intelligenz zu verlangsamen, für Aufregung gesorgt. Regierung: Nehmen Warnung von KI-Unternehmen sehr ernst Die Bundesregierung nimmt die Warnungen von KI-Unternehmen nach eigenen Angaben sehr ernst. „Wenn KI-Modelle immer wirkmächtiger werden, ausbrechen und in andere Systeme eigenständig eindringen, haben wir es mit einem völlig neuen Bedrohungsszenario zu tun“, sagte ein Sprecher des Digitalministeriums am Montag in Berlin. Das sei ein Paradigmenwechsel, auf den die Bundesregierung reagiere. Führende KI-Unternehmer in den USA hatten am Wochenende auf Risiken hingewiesen und für eine Verlangsamung bei der Entwicklung von KI plädiert. Der Sprecher verwies in diesem Zusammenhang auf das nationale KI-Sicherheitsinstitut, das Ende August seine Arbeit aufgenommen hat. Es helfe dabei Risiken zu identifizieren. Man sei im Austausch mit vergleichbaren Instituten. Zugleich betonte der Sprecher, dass es keinen Stopp bei der Entwicklung von KI geben dürfe. Was hinter den Science-Fiction-Geschichten von Altman, Amodei und Musk steckt, kommentiert SZ-Redakteur Jannis Brühl: Führende KI-Unternehmer in den USA hatten am Wochenende auf Risiken hingewiesen und für eine Verlangsamung bei der Entwicklung von KI plädiert. Der Sprecher verwies in diesem Zusammenhang auf das nationale KI-Sicherheitsinstitut, das Ende August seine Arbeit aufgenommen hat. Es helfe dabei Risiken zu identifizieren. Man sei im Austausch mit vergleichbaren Instituten. Zugleich betonte der Sprecher, dass es keinen Stopp bei der Entwicklung von KI geben dürfe. Was hinter den Science-Fiction-Geschichten von Altman, Amodei und Musk steckt, kommentiert SZ-Redakteur Jannis Brühl: Theresa Palm Fields-Medaillenträger protestieren dagegen, dass KI-Firmen sich an Mathematik beweisen 25 führende Mathematikerinnen und Mathematiker haben sich am Freitag in einer Erklärung dagegen ausgesprochen, dass KI-Firmen Mathematik-Probleme als Nachweis der Leistungsfähigkeit ihrer KI-Modelle verwenden. Sie warnen vor den Folgen für ihr Forschungsfeld. Die Unterzeichnenden tragen alle die Fields-Medaille, die höchste Auszeichnung der Mathematik. In den vergangenen Wochen und Monaten haben KI-Firmen mehrere große mathematische Fragen gelöst. Firmen nutzen diese Meldungen als Werbung für die Mächtigkeit ihrer KI-Modelle. So erregte Open AI kürzlich Aufmerksamkeit, als ein internes Modell eines der sieben Millennium-Probleme gelöst hat, auf die je eine Million US-Dollar Preisgeld ausgesetzt sind. Die Mathematiker schreiben: „Das Lösen von Problemen ist nur ein Mittel für das Erreichen des primären Ziels, nämlich des konzeptionellen Verständnisses und der Einsicht. Wenn man dies in der Welt der KI vergisst, könnte sich das Mittel gegen das eigentliche Ziel wenden.“ KI-Lösungen würden zu eilig veröffentlicht, deswegen würden sie auch nicht alle relevanten vorausgehenden Arbeiten zitieren. Auch bei der Lösung des Millennium-Problems hatte es viel Kritik am Umgang von Open AI mit Mathematikern gegeben, die kurz vor einem Durchbruch bei dem Problem standen. Ob KI langfristig die Mathematik beschädige oder ihr diene, das liege in der Hand der Menschen, die die neue Technologie kontrollierten, warnen die Forschenden. Top-Ökonomen warnen vor Abstieg Europas im KI-Wettlauf Führende Ökonomen und Politiker warnen vor einer Marginalisierung Europas im internationalen Wettbewerb um Künstliche Intelligenz (KI). Europa drohe, ohne entschlossenes Handeln ab diesem Jahr dauerhaft zurückzufallen, sagte der Präsident des Ifo-Instituts, Clemens Fuest, am Montag. Eine Expertengruppe, der auch die Vorsitzende des Sachverständigenrats, Monika Schnitzer, und die frühere EU-Kommissarin Margrethe Vestager angehören, legte eine neue Strategie vor. Diese soll den Wohlstand, die Souveränität und die Sicherheit Europas im KI-Zeitalter sichern. „Wir dürfen nicht zulassen, dass Europa zum Spielfeld ausländischer Mächte wird.“Ex-EU-Kommissarin Margrethe Vestager "Wir dürfen nicht zulassen, dass Europa zum Spielfeld ausländischer Mächte wird", sagte Vestager. Die Bürger spürten bereits die Folgen von Entscheidungen, die anderswo getroffen würden. Die Wertschöpfung finde außerhalb der europäischen Grenzen statt. "Das sollte uns weit mehr beunruhigen, als es derzeit der Fall ist. Wir müssen handeln." Wirtschaftsredakteur Helmut Martin-Jung über die Strategie der Expertengruppe: Wirtschaftsredakteur Helmut Martin-Jung über die Strategie der Expertengruppe: Kommentar: Der Staat muss die Aufsicht übernehmen Tech-Bosse fordern mehr staatliche Aufsicht für ihre Produkte - dafür ist es in der Tat höchste Zeit, meint Politik-Ressortleiter Nicolas Richter: Trump lehnt „unbegründete Sorgen“ vor KI ab US-Präsident Donald Trump hat die Führungsrolle der USA bei der Künstlichen Intelligenz (KI) betont und Warnungen vor wachsenden Gefahren zurückgewiesen. Auf die Frage, ob die KI-Branche ihre Entwicklung verlangsamen oder stärker reguliert werden sollte, sagte Trump vor Journalisten in Irland, die USA seien China bei KI voraus. „Wir sind das fortschrittlichste Land der Welt, und ehrlich gesagt will ich, dass das auch so bleibt“, sagte Trump. „Wer bei KI gewinnt, gewinnt.“ Zwar seien Leitplanken möglich. Es gebe aber viele „sehr negative Kräfte“, die unbegründete Sorgen schürten. Hintergrund von Trumps Äußerungen ist eine wachsende Debatte über die Risiken der Technologie. Der Chef des KI-Entwicklers Anthropic hatte zuletzt ein langsameres Entwicklungstempo gefordert. Hintergrund von Trumps Äußerungen ist eine wachsende Debatte über die Risiken der Technologie. Der Chef des KI-Entwicklers Anthropic hatte zuletzt ein langsameres Entwicklungstempo gefordert. Anthropic-Chef fordert Bremsen bei KI-Entwicklung Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz fordert der Chef des großen KI-Labors Anthropic, die Entwicklung der Technologie zu verlangsamen. Er sei nun besorgt, dass in sechs bis zwölf Monaten ein Schwarm von KI in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei in einem Blogeintrag. Binnen weniger Stunden bekam Amodei Zuspruch von einem zentralen Rivalen, dem Chef des ChatGPT-Entwicklers OpenAI. Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb Sam Altman auf der Online-Plattform X. Amodei plädierte zwar für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde. Auch Tech-Milliardär Elon Musk, lange ein Amodei-Kritiker, der in seiner Firma SpaceX eine eigene KI entwickelt, schrieb bei X: „Dario hat recht.“ Bei der jüngst bekannt gewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Modelle unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab. Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa auch im Weißen Haus von Präsident Donald Trump – ist der Wettlauf mit China. Binnen weniger Stunden bekam Amodei Zuspruch von einem zentralen Rivalen, dem Chef des ChatGPT-Entwicklers OpenAI. Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb Sam Altman auf der Online-Plattform X. Amodei plädierte zwar für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde. Auch Tech-Milliardär Elon Musk, lange ein Amodei-Kritiker, der in seiner Firma SpaceX eine eigene KI entwickelt, schrieb bei X: „Dario hat recht.“ Bei der jüngst bekannt gewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Modelle unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab. Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa auch im Weißen Haus von Präsident Donald Trump – ist der Wettlauf mit China.