Hunderte Experten aus der KI-Branche und Milliardär und Tesla-Gründer Elon Musk haben eine sechsmonatige Pause bei der Entwicklung Künstlicher Intelligenzen gefordert. Darunter ist auch darunter Yoshua Bengio, Gründer und wissenschaftlicher Direktor des Mila – Quebec AI Institute. Sie haben heute einen vom Future of Life Institute initiierten offenen Brief mitunterzeichnet, in dem die KI-Labore aufgefordert werden, das Training von KI-Systemen, die leistungsfähiger als GPT-4 zeitweilig auszusetzen.
Regulierung für den Einsatz von KI-Systemen gefordert
Die Zeit solle genutzt werden, um ein Regelwerk für diese recht neue Technologie zu schaffen, heißt es in einem offenen Brief der gemeinnützigen Organisation Future of Life. „Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind.“
Inzwischen unterzeichneten mehr als 1000 Personen dieses Manifest, darunter Emad Mostaque, Chef der KI-Firma Stability AI und mehrere Entwickler von Googles KI-Tochter DeepMind.
In dem Brief stellen die Unterzeichner klar: Systeme, die es mit menschlicher Intelligenz aufnehmen können, können eine ernsthafte Bedrohung für die Gesellschaft und die Menschheit darstellen. Die sechsmonatige Aussetzung sollte daher verwendet werden, um eine Reihe von Protokollen zu entwickeln und zu implementieren, um diese leistungsstarken KI-Systeme genauer, transparenter und vertrauenswürdiger zu machen.
Den vollständigen offenen Brief finden Sie hier.
Dies sind einige der Hauptunterzeichner:
- Yuval Noah Harari, Autor und Professor, Hebrew University of Jerusalem
- Stuart Russell, Berkeley, Professor für Informatik, Direktor des Center for Intelligent Systems, und Mitautor des Standardlehrbuchs „Artificial Intelligence: a Modern Approach“
- Elon Musk, CEO von SpaceX, Tesla und Twitter
- Steve Wozniak, Mitbegründer von Apple
- Evan Sharp, Mitbegründer von Pinterest
- Rachel Bronson, Präsident, Bulletin of the Atomic Scientists
Besorgnisse und echte Gefahren der AI-Systeme
Die Verfasser des Schreibens sind besorgt und wiesen auf die Gefahren sogenannter Generativer KI hin, wie etwa ChatGPT hin. Diese Programme können menschliche Interaktion simulieren und anhand weniger Stichworte Texte oder Bilder erstellen. Diese diese Technologie ist inzwischen so weit fortgeschritten, dass selbst die Entwickler ihre Programme nicht mehr verstehen oder wirksam kontrollieren könnten. Dadurch könnten die Informationskanäle mit Propaganda und Unwahrheiten geflutet und selbst erfüllende Jobs wegrationalisiert werden. Aus diesem Grund sollten alle Entwickler, die an KI der nächsten Generation arbeiten, ihre Arbeit öffentlich nachprüfbar einstellen. Geschehe dies nicht umgehend, müssten die Staaten ein Moratorium verhängen.
Einfach.Smart-City.Machen: Berlin! — AI-Systeme sind in der Nachrichtenaufbereitung, in der Redaktion und in der Publikation und Syndizierung von Medienformaten einsetzbar. Neue Rollen für Redakteure entstehen dabei, um verantwortete und standardisierte und sichere „Use-Cases“ in Publikationen zu entwickeln. Pilotprojekte werden in anzeigio für „IofAI“ integriert — im RealLabor Berlin.
info@anzeigio.de | akkreditierung@anzeigio.de [ Autoren & Media-Entwickler]
