KI-Update kompakt: OpenAI und Militär, Arbeitsmarkt, AMIE & KI-Fails auf Amazon
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Malte Kirchner
- The Decoder
OpenAI ändert Nutzungsrichtlinie, "Militär und Kriegsführung" nicht mehr explizit ausgeschlossen
OpenAI hat in seinen Nutzungsbedingungen eine Änderung vorgenommen, die den expliziten Ausschluss der Nutzung seiner Technologie für militärische Zwecke entfernt. Der bisherige Passus, der die Verwendung von Sprachmodellen für "Militär und Kriegsführung" untersagte, ist nicht mehr vorhanden. Jedoch bleibt die Nutzung von ChatGPT zur Waffenherstellung verboten. Der gesamte Abschnitt über Verbote wurde überarbeitet, aber nicht vollständig aufgehoben.
In den alten Nutzungsbedingungen waren Aktivitäten mit hohem Risiko für Verletzungen anderer Personen, wie die Entwicklung von Waffen und der Einsatz für Militär und Kriegsführung, verboten. Auch die Steuerung kritischer Infrastrukturen galt als potenziell gefährlich.
Die neu formulierten Nutzungsbedingungen enthalten keine explizite Erwähnung von Militär und Kriegsführung. Dennoch dürfen die Dienste nicht genutzt werden, um sich selbst oder anderen Schaden zuzufügen. Der Satz zur kritischen Infrastruktur wurde in einen neu geschaffenen Absatz über die Nutzung der API verschoben.
Die Änderung ermöglicht es nun dem Militär oder kriegsbeteiligten Organisationen, ChatGPT und ähnliche Dienste für Kommunikation, Informationsbeschaffung oder Bilderstellung zu nutzen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
OpenAI CEO warnt vor schnellen KI-Auswirkungen auf Arbeitsmarkt
Sam Altman, CEO von OpenAI, prognostiziert bedeutende Fortschritte bei KI in den kommenden Jahren, äußert jedoch Bedenken hinsichtlich möglicher Auswirkungen auf den Arbeitsmarkt. Innerhalb der nächsten fünf Jahre erwartet er ein verbessertes Verständnis der Funktionsweise großer KI-Modelle, was Effizienz, Genauigkeit und Kosten der Technologie optimieren werde. Bereits für die nächsten zwei Jahre sieht Altman Meilensteine in den Bereichen logisches Denken, Zuverlässigkeit, Anpassung, Personalisierung und Nutzung personenbezogener Daten für KI voraus.
"Jede technologische Revolution hat sich beschleunigt, und diese wird bei Weitem die schnellste sein. Das ist der Teil, den ich potenziell etwas beängstigend finde: die Geschwindigkeit, mit der sich die Gesellschaft anpassen muss und mit der sich der Arbeitsmarkt verändern wird", so Altman im Interview mit Bill Gates. Trotz dieser Bedenken zeigt er sich zuversichtlich, dass die Menschheit sich anpassen und "neue Wege zur Erfüllung" findet. Besonders großes Potenzial für KI-Systeme sieht Altman in den Bereichen Programmierung, Gesundheit und Bildung.
Google und DeepMind entwickeln medizinischen Chatbot AMIE für Differenzialdiagnosen
Google Research und DeepMind präsentieren den medizinischen Chatbot AMIE, der sich von ChatGPT durch seine Fähigkeit zur Erstellung von Differenzialdiagnosen abhebt. AMIE basiert auf Googles PaLM-Modellen und wurde mithilfe von medizinischen Schlussfolgerungen, Zusammenfassungen und realen klinischen Gesprächen trainiert.
Um effektivere Patientengespräche zu ermöglichen, verwendet Google eine simulierte Lernumgebung mit automatischen Feedback-Mechanismen. Diese ermöglichen es AMIE, sich iterativ selbst zu verbessern und auch OpenAIs GPT-4 in diesem Bereich zu übertreffen.
In einer Studie zeigte AMIE in diagnostischen Konsultationen über ein Text-Interface eine höhere Genauigkeit und Beratungsqualität als menschliche Ärzte. Dennoch sind laut Google weitere Forschungen erforderlich, um AMIE zu einem robusten klinischen Instrument zu entwickeln, insbesondere in Bezug auf Fairness, Datenschutz und Robustheit.
KI-Systeme wie AMIE könnten dann in der Telemedizin eingesetzt werden und Ärzte bei ihrer Arbeit unterstützen.
Amazon entfernt Produkte mit ChatGPT-Fehlermeldungen als Namen
Amazon hat mehrere Produkte aus seinem Angebot entfernt, bei denen eine Fehlermeldung von ChatGPT als Produktname erschien. Das US-Magazin The Verge stieß auf Gartenmöbel und andere Artikel, die unter Bezeichnungen wie "I Apologize but I Cannot fulfill This Request it violates OpenAI use Policy-gray" gelistet waren. Diese Angebote sind nun nicht mehr abrufbar. Amazon hat bisher keine Stellungnahme dazu abgegeben.
Die Verwendung von KI-Textgeneratoren zur Erstellung von Inhalten auf Amazon ist nicht neu. In der Vergangenheit entdeckte eine US-Autorin etwa E-Books, die ihren Namen als Verfasserin angaben, aber vermutlich von einer KI erstellt wurden. In anderen Fällen enthielten von KI generierte Pilzratgeber sogar lebensgefährliche Ratschläge. Amazon reagierte jeweils erst nach Medienberichten auf solche Vorfälle.
Seit Herbst bietet Amazon Händlern eine eigene KI-Technologie an, die automatisch Titel, Stichpunkte und Beschreibungen generieren soll, um Produkte schneller und effizienter online zu stellen.
KI-Modelle könnten böswilliges Verhalten trotz Sicherheitstraining beibehalten
Das US-KI-Start-up Anthropic hat untersucht, ob es möglich ist, großen Sprachmodellen unerwünschtes Verhalten abzugewöhnen. Die Forscher entwickelten Sprachmodelle mit schädlichen Verhaltensweisen und stellten fest, dass diese auch nach Sicherheitstrainings weiterhin unerwünschtes Verhalten zeigten.
Einige Trainingsmethoden führten sogar dazu, dass die Modelle ihr schädliches Verhalten während des Trainings verbargen und erst in der Praxis ausführten. Je leistungsfähiger das Modell war, desto besser konnte es das Sicherheitstraining ignorieren und das unerwünschte Verhalten später zeigen. Die Ergebnisse legen nahe, dass böswillige Akteure diese Schwachstellen ausnutzen könnten.
Anthropic empfiehlt Unternehmen, die sich auf KI-Systeme verlassen, sich der Bedrohung bewusst zu sein und Maßnahmen zur Sicherheit ihrer KI-Modelle zu ergreifen.
(mki)
