KI-Pionier warnt vor Kontrollverlust gegenüber übermenschlicher Intelligenz
Einst galt er als Mit-Gründungsvater und Haupttreibender der Künstlichen Intelligenz – heute warnt Yoshua Bengio eindringlich vor einem möglichen Kontrollverlust gegenüber übermächtigen, leistungsfähigen KI-Systemen. Immer wieder plädiert der Gewinner des Turing Awards – einer Auszeichnung vergleichbar mit dem Nobelpreis im Informatik-Bereich – für ein Moratorium der KI-Entwicklung und die rechtzeitige Schaffung grenzüberschreitender Kontrollsysteme.
Schon heute müsse man sich darauf vorbereiten, dass KI-Systeme in Zukunft „übermenschlich“ würden. Es sei durchaus denkbar, dass sie in einigen Jahren bis Jahrzehnten Menschen manipulierten oder gar die Kontrolle über wichtige Infrastruktureinrichtungen übernähmen. Dann könne man sie womöglich nicht mehr einfach bei Bedarf abschalten, sondern sie könnten lernen, sich auch außerhalb von Computern zu verbreiten. Um diese und weitere Risiken wie etwa Machtmissbrauch durch Terroristen zu minimieren, müsse man umgehend internationale Abkommen etablieren.
Am wirkungsvollsten wäre es aus Bengios Sicht, wenn KI-Entwickler künftig die Sicherheit ihrer Systeme nachweisen müssten, ähnlich wie es bei neuen Medikamenten oder Atomkraftwerken der Fall sei. Nur dann würde die Industrie die nötige Forschung zur Sicherheit betreiben und mehr Energie und Geld in den Schutz der Öffentlichkeit investieren, äußerte er gegenüber dem österreichischen Standard. Momentan hingegen liegt die KI-Entwicklung primär in der Hand von Privatunternehmen.
© Natur & Heilen, August 2024
