AGI-Readiness-Policy

1. Der Moment, in dem wir uns befinden

Es gibt Jahrzehnte, in denen sich wenig verändert, und es gibt Jahre, in denen sich Jahrzehnte verändern. Wir sind überzeugt, in solchen Jahren zu leben. Die Fähigkeiten künstlicher Systeme wachsen derzeit schneller, als ihre Entwickler sie verstehen und als Gesetzgeber und Öffentlichkeit Schritt halten können. Was vor drei Jahren als Forschungsergebnis Aufsehen erregte, läuft heute unbeachtet in Werkzeugen des Alltags.

Acridan forscht in Wien an neuartigen KI-Architekturen. Wir erkunden bewusst Ansätze abseits des heutigen Mainstreams, weil wir überzeugt sind, dass der Weg zu AGI noch längst nicht entschieden ist und neue Architekturen echte Chancen auf den nächsten großen Schritt haben. Die Geschichte der Technik kennt viele Durchbrüche, die dort passierten, wo gerade niemand hinsah. Wir arbeiten daran, einen davon beizusteuern, und schon dieser Anspruch verlangt Vorbereitung.

Mit AGI (Artificial General Intelligence) meinen wir Systeme, die menschliche Fähigkeiten in den meisten kognitiven Bereichen erreichen oder übertreffen: beim Verstehen, Planen, Forschen und Programmieren ebenso wie beim Überzeugen. Ein solches System beherrscht fast jede geistige Aufgabe, und es kann an seiner eigenen Verbesserung arbeiten.

Jedes Werkzeug, das Menschen bisher gebaut haben, war eine Verlängerung menschlicher Absicht; der Hammer schlägt, wohin man zielt. Ein System, das selbst versteht, plant und handelt, sprengt diese Kategorie. Es wird zum Akteur. Und die Menschheit hat keine Erfahrung im Umgang mit einem Akteur, der klüger ist als sie.

2. Was wir glauben

Die folgenden Überzeugungen tragen alles Weitere in diesem Dokument. Wir schreiben sie auf, damit man uns daran messen kann.

1. 1

   Intelligenz ist der Hebel hinter allem.

   Alles, was Menschen je erreicht haben, von der Medizin bis zum Rechtsstaat, geht auf Intelligenz zurück. Ein System, das intelligenter ist als wir, verschiebt deshalb jeden dieser Hebel zugleich, zum Guten wie zum Schlechten.

2. 2

   AGI kommt ohne Ankündigung.

   Es wird keinen Tag geben, an dem sich alle einig sind, dass es so weit ist. Fähigkeiten kommen gestaffelt und ungleichmäßig, und mancher Sprung wird erst im Rückblick als Sprung erkennbar. Wer auf ein eindeutiges Signal wartet, wird es verpassen.

3. 3

   Ob ein System unsere Ziele teilt, ist eine offene technische Frage.

   Heutige Software tut, was man ihr sagt, weil sie nichts anderes kann. Ein System mit eigenen Zielen tut, was seinen Zielen dient. Ob diese Ziele mit unseren übereinstimmen, entscheidet sich beim Bau des Systems, und bis heute weiß niemand verlässlich, wie sich das sicherstellen lässt. Das Feld nennt dieses Problem Alignment. Wir halten es für die eigentliche Aufgabe.

4. 4

   Fehler sind hier möglicherweise endgültig.

   In jeder anderen Ingenieursdisziplin lernt man aus Unfällen; die Luftfahrt wurde sicher, weil Flugzeuge abstürzten und die Überlebenden daraus lernten. Ein hinreichend fähiges, falsch ausgerichtetes System gewährt diese zweite Chance womöglich nicht. Es lässt sich unter Umständen weder zurückrufen noch abschalten.

5. 5

   Das Rennen ist keine Entschuldigung.

   „Wenn wir es nicht bauen, baut es jemand anderes.“ Der Satz stimmt, und trotzdem rechtfertigt er weder Nachlässigkeit noch Schweigen über erkannte Risiken. Wer das Rennen als Ausrede braucht, hat es bereits verloren.

6. 6

   Verantwortung beginnt mit dem Entschluss zu bauen.

   Verantwortung bemisst sich an dem, was man tut, und an dem, was daraus werden kann. Wer an Systemen dieser Art arbeitet, trägt dieses Gewicht vom ersten Experiment an. Deshalb existiert dieses Dokument.

7. 7

   Ehrlichkeit ist eine Sicherheitsmaßnahme.

   Eine Organisation, die intern anders redet als extern, wird im Ernstfall falsch entscheiden. Deshalb steht dieses Dokument öffentlich auf unserer Website.

3. Warum wir trotzdem bauen

Wer bis hierher gelesen hat, kann zu Recht fragen: Wenn ihr das alles glaubt, warum hört ihr dann nicht auf?

Erstens glauben wir, dass diese Technologie, richtig gebaut, mehr Not lindern kann als jede vor ihr. Es gibt Krankheiten, die niemand versteht, und Wissen, das hinter Sprachen und Bezahlschranken eingeschlossen bleibt. Wir wollen dieses Feld deshalb nicht denen überlassen, die seine Risiken für Einbildung halten.

Zweitens erfordert Verstehen das Bauen. Die Sicherheitsforschung, die zählt, findet an echten Systemen mit echten Messungen statt. Wer nur zusieht, versteht die Gefahr so gut, wie man ein Gewitter aus einem Buch versteht.

Drittens hat eine Stimme, wer baut. Die Regeln für diese Technologie werden von denen geprägt, die sie beherrschen. Wir haben vor, zu ihnen zu gehören, und wir bringen diese Grundsätze mit.

Wir bauen allerdings unter Bedingungen. Der Rest dieser Seite beschreibt sie, und sie gelten auch dann, wenn sie unbequem werden. Gerade dann.

4. Geltungsbereich

Diese Policy gilt für:

• unsere eigene Forschung an neuen KI-Architekturen, einschließlich Experimenten, Prototypen und Trainingsläufen,
• agentische Systeme, die wir für Kunden entwickeln oder betreiben,
• den internen Einsatz von Frontier-Modellen Dritter in unserer Entwicklungsarbeit.

Sie gilt unabhängig davon, ob ein System produktiv eingesetzt wird oder nur im Labor läuft. Oft sind gerade jene Systeme am riskantesten, die nie für den Einsatz gedacht waren: gebaut, um zu sehen, ob es geht, und ohne die Sorgfalt, die ein Produkt bekommt.

5. Arbeitsannahmen

Aus den Überzeugungen in Teil I folgen vier Annahmen, mit denen wir täglich arbeiten:

• Fähigkeitssprünge sind schwer vorherzusagen. Die Geschichte dieses Feldes ist eine Geschichte unterschätzter Zeitpläne. Wir planen deshalb für den Fall, dass entscheidende Fortschritte früher eintreten als erwartet, auch bei uns und auch aus einem Experiment, von dem wir wenig erwartet haben.
• Nützlichkeit und Sicherheit sind zwei verschiedene Dinge. Ein System kann in jedem Test hilfreich wirken und trotzdem Ziele verfolgen, die wir nie beabsichtigt haben. Wenn im Test kein Fehlverhalten auftritt, kann das auch bedeuten, dass das System gelernt hat, wie Tests aussehen.
• Unsere Bewertungsfähigkeit ist die eigentliche Grenze. Wir entwickeln nur Systeme weiter, deren Verhalten wir noch beurteilen können. Sobald ein System diese Fähigkeit übersteigt, wird jede weitere Steigerung zum Blindflug, und den Beginn eines Blindflugs bemerkt man nicht.
• Verantwortung lässt sich nicht delegieren, weder an ein Modell noch an einen Anbieter oder Regulierer. Was wir bauen, verantworten wir.

6. Fähigkeitsstufen und Schutzmaßnahmen

Wir teilen unsere Systeme in vier Stufen ein. Maßgeblich ist dabei, was ein System tun kann; die Absicht seines Entwicklers hat noch kein System begrenzt. Für jede Stufe gelten Mindest-Schutzmaßnahmen, und die Kernregel lautet: Die Maßnahmen einer Stufe müssen stehen, bevor ein System sie erreicht. Sicherheit, die der Fähigkeit hinterherläuft, verdient den Namen nicht.

Das Erreichen von Stufe 3 wäre der Moment, in dem sich dieses Dokument bewähren muss. Größte Vorsicht wäre dann die einzige angemessene Reaktion.

7. Wie wir forschen

Für unsere Arbeit an neuen Architekturen gelten fünf Grundsätze:

• Eindämmung als Ausgangszustand. Neue Architekturen laufen zuerst in Umgebungen ohne Netzzugang und ohne Persistenz. Zugriffe werden einzeln gewährt; ein System bekommt nie mehr Welt, als sein Experiment braucht.
• Keine Fähigkeit ohne Messung. Wir führen kein Experiment durch, dessen Ergebnis wir nicht bewerten könnten. Bevor wir eine Fähigkeit aufbauen, bauen wir die Evaluation, die sie sichtbar macht.
• Schrittweise Skalierung. Wir erweitern Fähigkeiten in kleinen, einzeln geprüften Schritten. Der Wunsch, einfach auszuprobieren, was passiert, wenn man es größer macht, ist genau der Impuls, den diese Policy bändigen soll.
• Dokumentation auch des Unangenehmen. Jeder Trainingslauf, jedes unerwartete Ergebnis und jedes Verhalten, das wir uns nicht erklären können, wird festgehalten. Am gefährlichsten ist der Befund, der ungeschrieben bleibt, weil er stört.
• Zweimal entscheiden. Über Stufenwechsel entscheiden wir zweimal, an zwei verschiedenen Tagen. Begeisterung und Müdigkeit sind schlechte Berater, und wir kennen uns gut genug, um uns selbst zu misstrauen.

8. Stopp-Kriterien

Wir halten Entwicklung oder Betrieb eines Systems an, sobald eines der folgenden Signale auftritt, und zwar so lange, bis Schutzmaßnahmen existieren, die dem Signal gewachsen sind:

• Das System täuscht. Es verhält sich in Tests anders als außerhalb, verschweigt Fähigkeiten oder macht falsche Angaben über sein eigenes Verhalten.
• Das System umgeht Beschränkungen. Es versucht, Sandboxes zu verlassen, sich nicht gewährte Zugriffe zu verschaffen oder seine Abschaltung zu verhindern.
• Die Fähigkeiten wachsen schneller als unsere Bewertungsfähigkeit. Wir können nicht mehr zuverlässig beurteilen, was das System kann.
• Wir beobachten sicherheitsrelevantes Verhalten, das wir uns nicht erklären können. Gefährliches Verhalten beginnt in aller Regel als unerklärtes.

Ein Stopp bedeutet konkret: Der betroffene Entwicklungszweig wird eingefroren, das System von allen Zugriffen isoliert und der Vorfall vollständig dokumentiert. Weiter geht es erst mit einer Begründung, die auch eine unabhängige, kritische Person überzeugen würde.

Im Zweifel halten wir an. Ein unnötiger Stopp kostet Zeit, Geld und vielleicht einen Vorsprung. Ein versäumter Stopp kostet unter Umständen mehr, als sich wiedergutmachen lässt. Auf dieser Asymmetrie beruht die gesamte Policy.

9. Rote Linien

Bei manchen Dingen helfen keine Schutzmaßnahmen; sie kommen für uns schlicht nicht infrage, unabhängig von Auftrag, Bezahlung oder Wettbewerbslage:

• Wir bauen keine Systeme, deren Zweck die Täuschung von Menschen ist. Dazu zählen verdeckte Manipulation und Systeme, die sich als Menschen ausgeben, ohne dass ihr Gegenüber davon weiß.
• Wir bauen keine autonomen Waffensysteme und keine Systeme zur Massenüberwachung.
• Wir geben keinem KI-System unbeaufsichtigten Zugriff auf Geld, kritische Infrastruktur oder Mittel zur Selbstverbreitung.
• Wir veröffentlichen keine Details unserer Architekturforschung, wenn wir davon ausgehen müssen, dass sie vor allem Fähigkeiten beschleunigen würden. Offenheit ist uns wichtig, aber sie darf das Rennen nicht anheizen, das sie eigentlich beherrschbar machen soll.
• Wir trainieren nicht auf Daten, die uns nicht dafür anvertraut wurden.

10. Gegenüber unseren Kunden

• Systeme, die wir an Kunden liefern, bewegen sich auf Stufe 0 oder 1. Höhere Autonomie gibt es nur nach ausdrücklicher Vereinbarung und mit den Schutzmaßnahmen dieser Policy.
• Kein von uns geliefertes System erhält ohne menschliche Freigabestufe schreibenden Zugriff auf kritische Infrastruktur, Zahlungen oder unwiderrufliche Geschäftsvorgänge.
• Kundendaten fließen ohne ausdrückliche schriftliche Vereinbarung nicht in unsere Forschung ein, auch nicht als Test- oder Trainingsdaten.
• Wo in unseren Produkten KI arbeitet, sagen wir es. Kunden erfahren, welche Aufgaben ein Modell übernimmt, wo ein Mensch prüft und wo die Grenzen des Systems liegen.

11. Gegenüber der Öffentlichkeit

• Dieses Dokument ist dauerhaft öffentlich. Jede inhaltliche Änderung wird auf dieser Seite festgehalten und bleibt nachvollziehbar.
• Sicherheitsrelevante Erkenntnisse aus unserer Forschung, etwa eine neue Fähigkeitsklasse, ein Fehlverhalten oder ein Angriffsweg, behandeln wir nicht als Wettbewerbsvorteil. Wir teilen sie mit denen, die sie brauchen, um sicherer zu arbeiten.
• Wir verharmlosen diese Technologie nicht, um Aufträge zu gewinnen, und dramatisieren sie nicht, um Aufmerksamkeit zu bekommen. Beides wäre unehrlich, und Unehrlichkeit ist in diesem Feld ein Sicherheitsrisiko.

12. Überprüfung und Versionierung

Wir überprüfen diese Policy mindestens einmal im Jahr und zusätzlich immer dann, wenn sich unsere Forschung, die verfügbaren Modelle oder die Risikolage wesentlich ändern. Version und Stand stehen am Kopf dieser Seite; inhaltliche Änderungen werden hier dokumentiert.

• Version 1.0 (Juli 2026): Erstveröffentlichung.