Zum Inhalt springen

Häufige Fragen

Was ist PauseAI?

PauseAI ist eine internationale Bewegung von Freiwilligen. Wir setzen uns dafür ein, dass die Entwicklung der leistungsfähigsten KI-Systeme pausiert wird, bis wir wissen, wie wir sie sicher und unter demokratischer Kontrolle bauen können. PauseAI Freiburg ist eine lokale Gruppe von PauseAI Deutschland.

Was genau fordert ihr?

Wir fordern ein internationales Abkommen, das das Training der leistungsfähigsten allgemeinen KI-Systeme vorübergehend stoppt. Diese Pause soll so lange gelten, bis es wirksame Sicherheitsmaßnahmen und demokratische Kontrolle gibt. Details stehen im Vorschlag von PauseAI (Englisch).

Seid ihr gegen KI oder gegen Technik?

Nein. Viele KI-Anwendungen sind nützlich, zum Beispiel in der Medizin. Wir wollen nur die Entwicklung der leistungsfähigsten Systeme pausieren, deren Risiken heute niemand kontrollieren kann.

Welche Risiken seht ihr?

Fortgeschrittene KI kann missbraucht werden, zum Beispiel für Cyberangriffe oder zur Entwicklung von Biowaffen. Sie kann Macht in den Händen weniger Unternehmen oder Staaten konzentrieren. Und es ist noch nicht bekannt, wie man Systeme, die klüger sind als Menschen, zuverlässig kontrolliert.

Diese Sorgen haben nicht nur wir. Im Jahr 2023 haben hunderte KI-Forschende, darunter Geoffrey Hinton und Yoshua Bengio, folgende Erklärung unterschrieben: Das Risiko des Aussterbens durch KI zu verringern, sollte eine globale Priorität sein – so wie bei Pandemien und Atomkrieg.

Ist eine Pause überhaupt realistisch?

Internationale Abkommen sind schwierig, aber möglich. Beispiele sind das Montreal-Protokoll zum Schutz der Ozonschicht und die Verträge gegen die Verbreitung von Atomwaffen. Das Training der größten KI-Modelle braucht spezielle Chips, die nur wenige Firmen herstellen. Deshalb kann man ein Abkommen auch überprüfen.

Was ist mit China und anderen Ländern?

Darum fordern wir ein internationales Abkommen. Eine Pause funktioniert nur, wenn sich die wichtigsten Länder daran halten, auch die USA und China. Kein Land profitiert davon, wenn niemand die Technologie kontrollieren kann.

Ich bin keine KI-Expertin und kein KI-Experte. Kann ich trotzdem mitmachen?

Ja! Die meisten von uns sind keine Fachleute. Lies, wie du mitmachen kannst, oder komm einfach zu einem unserer Termine.

Wo finde ich mehr Informationen?