Humanity Protection Act · HPA

HPA / 01

Article 1 — Purpose, Scope and Fundamental Principles

1.1 · Purpose

This Act establishes a proposed human-rights-based model framework for identifying, preventing and mitigating serious harm arising from advanced technologies. Its purpose is to protect human dignity, life, liberty, democratic self-determination and the long-term ability of humanity to determine its own future. It promotes responsible scientific and technological progress while addressing risks that may extend beyond individual persons, organizations or national borders.

1.2 · Scope of Application

This Act addresses the research, development, testing, deployment, operation and substantial modification of advanced technologies where their capabilities or foreseeable uses may create serious risks to persons, communities, institutions or humanity. These technologies include artificial intelligence (AI), artificial general intelligence (AGI), artificial superintelligence (ASI), quantum technologies, high-impact autonomous systems and combinations of these or other emerging technologies. The obligations proposed under this Act shall be applied according to the nature, severity and evidence of the relevant risk, and shall not be inferred merely from a technology’s name or scientific field.

1.3 · Fundamental Principles

The interpretation and implementation of this Act shall be guided by: (a) respect for human dignity and internationally recognized human rights; (b) identifiable human and institutional accountability; (c) precaution where credible evidence indicates a risk of severe or irreversible harm; (d) meaningful human oversight and effective intervention where appropriate; (e) independent scientific assessment and transparent reasons for decisions; (f) protection of scientific freedom and legitimate innovation; (g) responsibility toward future generations; and (h) international cooperation consistent with the rule of law. Measures taken under these principles shall be evidence-based, necessary and proportionate.

1.4 · Non-Derogation and Safeguards

Nothing in this Act shall be construed to authorize arbitrary restrictions of fundamental rights, discriminatory treatment, indefinite emergency powers or the suppression of legitimate peaceful research. Protective measures shall have a lawful basis, be limited to what is necessary to address an identified risk, and remain subject to independent oversight and effective remedies. Higher protections provided by applicable human-rights law shall remain unaffected.

1.5 · Relationship to International and Domestic Law

This Act is a model-law proposal and does not itself create binding obligations, enforcement powers or an international institution. Any binding duties shall arise only through valid adoption under applicable national constitutional procedures or international agreements. Where adopted, its provisions shall be interpreted consistently with existing international human-rights obligations, the United Nations Charter and other applicable rules of international law. The complementary Quantum, AI and Superintelligence Governance Act (QASGA) is proposed as a separate instrument for more detailed technical governance.

Artikel 1 — Zweck, Anwendungsbereich und Grundprinzipien

1.1 · Zweck

Dieses Gesetz schafft den Entwurf eines menschenrechtsbasierten Modellrahmens zur Erkennung, Verhinderung und Begrenzung schwerwiegender Schäden durch fortgeschrittene Technologien. Es dient dem Schutz der Menschenwürde, des Lebens, der Freiheit, der demokratischen Selbstbestimmung und der langfristigen Fähigkeit der Menschheit, ihre Zukunft selbst zu gestalten. Es fördert einen verantwortungsvollen wissenschaftlichen und technologischen Fortschritt und berücksichtigt zugleich Risiken, die über einzelne Personen, Organisationen oder Staatsgrenzen hinausreichen können.

1.2 · Anwendungsbereich

Dieses Gesetz bezieht sich auf Forschung, Entwicklung, Erprobung, Bereitstellung, Betrieb und wesentliche Veränderungen fortgeschrittener Technologien, soweit ihre Fähigkeiten oder vorhersehbaren Anwendungen schwerwiegende Risiken für Menschen, Gemeinschaften, Institutionen oder die Menschheit begründen können. Dazu gehören künstliche Intelligenz (KI), allgemeine künstliche Intelligenz (AGI), künstliche Superintelligenz (ASI), Quantentechnologien, autonome Systeme mit erheblichen Auswirkungen sowie Kombinationen dieser und anderer neu entstehender Technologien. Die vorgeschlagenen Pflichten sind nach Art, Schwere und Erkenntnislage des jeweiligen Risikos anzuwenden; sie ergeben sich nicht allein aus der Bezeichnung einer Technologie oder eines Forschungsgebiets.

1.3 · Grundprinzipien

Auslegung und Umsetzung dieses Gesetzes richten sich nach folgenden Grundsätzen: (a) Achtung der Menschenwürde und international anerkannter Menschenrechte; (b) eindeutig zuordenbare menschliche und institutionelle Verantwortung; (c) Vorsorge bei glaubhaften Anhaltspunkten für schwere oder irreversible Schäden; (d) wirksame menschliche Aufsicht und geeignete Eingriffsmöglichkeiten; (e) unabhängige wissenschaftliche Bewertung und transparente Begründung von Entscheidungen; (f) Schutz der Wissenschaftsfreiheit und berechtigter Innovation; (g) Verantwortung gegenüber zukünftigen Generationen; sowie (h) internationale Zusammenarbeit im Einklang mit der Rechtsstaatlichkeit. Maßnahmen auf Grundlage dieser Prinzipien müssen evidenzbasiert, erforderlich und verhältnismäßig sein.

1.4 · Schutzklausel und rechtliche Sicherungen

Keine Bestimmung dieses Gesetzes darf so ausgelegt werden, dass sie willkürliche Einschränkungen von Grundrechten, Diskriminierung, zeitlich unbegrenzte Notstandsbefugnisse oder die Unterdrückung rechtmäßiger friedlicher Forschung erlaubt. Schutzmaßnahmen benötigen eine gesetzliche Grundlage, müssen auf das zur Abwehr eines festgestellten Risikos Erforderliche begrenzt sein und einer unabhängigen Kontrolle sowie wirksamen Rechtsbehelfen unterliegen. Weitergehende Schutzstandards des geltenden Menschenrechtsrechts bleiben unberührt.

1.5 · Verhältnis zum Völkerrecht und nationalen Recht

Dieses Gesetz ist ein Modellgesetzentwurf und begründet für sich genommen weder verbindliche Pflichten noch Durchsetzungsbefugnisse oder eine internationale Institution. Verbindliche Verpflichtungen können ausschließlich durch eine wirksame Übernahme nach den geltenden nationalen Verfassungsverfahren oder durch internationale Übereinkünfte entstehen. Im Fall einer Übernahme sind die Bestimmungen im Einklang mit bestehenden völkerrechtlichen Menschenrechtsverpflichtungen, der Charta der Vereinten Nationen und sonstigem anwendbarem Völkerrecht auszulegen. Der ergänzende Quantum, AI and Superintelligence Governance Act (QASGA) ist als eigenständiges Regelwerk für die detaillierte technische Governance vorgesehen.

HPA / 02

Article 2 — Definitions and Risk Classification

2.1 · Advanced Technologies

For the purposes of this Act, “advanced technologies” means technological systems, methods or combinations thereof whose capabilities, deployment context or foreseeable misuse may materially affect human rights, public safety, essential infrastructure or humanity’s long-term interests. This includes, as applicable, artificial intelligence, quantum technologies, advanced biotechnology, autonomous robotics and convergent systems. Inclusion within this definition does not, by itself, establish that a technology is hazardous or subject to heightened controls.

2.2 · Artificial Intelligence (AI)

“Artificial Intelligence” or “AI” means a machine-based system designed to operate with varying levels of autonomy and capable, for explicit or implicit objectives, of inferring from inputs how to generate outputs such as predictions, content, recommendations or decisions. Regulatory assessment shall consider actual capabilities, deployment conditions and potential impacts, rather than a developer’s label alone.

2.3 · Artificial General Intelligence (AGI)

“Artificial General Intelligence” or “AGI” means, for the purposes of this model law, a proposed category of AI capable of broadly transferable, adaptable performance across substantially different cognitive domains. No universally accepted scientific threshold is presumed. A claim that a system constitutes AGI shall not replace evidence-based assessment of its specific capabilities, autonomy and risks.

2.4 · Artificial Superintelligence (ASI)

“Artificial Superintelligence” or “ASI” means a hypothetical or future AI system that substantially exceeds the highest human capabilities across a broad range of cognitively demanding domains. This definition does not imply that such systems currently exist or that their emergence is inevitable. If systems exhibiting such capabilities are developed, their classification shall depend on independently assessed capabilities and risks.

2.5 · Quantum Technologies

“Quantum technologies” means technologies that deliberately exploit quantum-mechanical effects, including superposition, entanglement, interference or quantum measurement, for computation, communication, sensing, simulation or related purposes. Risks shall be evaluated by use case and credible capability, including foreseeable effects on information security and critical infrastructure; the use of quantum effects alone does not establish high risk.

2.6 · Autonomous High-Impact Systems

“Autonomous high-impact systems” means systems capable of selecting or executing consequential actions with limited contemporaneous human direction in contexts where errors, misuse or loss of control may seriously affect rights, safety, essential services or the environment. Relevant factors include operational authority, access to physical or digital resources, reversibility, duration of operation and the effectiveness of human intervention.

2.7 · Systemic Risk

“Systemic risk” means a credible possibility that technological failure, misuse or harmful interaction will propagate across interconnected systems, sectors or institutions and cause widespread disruption. Assessment shall consider dependencies, cascading effects, common points of failure and the availability of effective containment and recovery mechanisms.

2.8 · Catastrophic Risk

“Catastrophic risk” means a credible possibility of harm of extraordinary severity or geographic or societal scale, including large-scale loss of life, sustained collapse of essential functions or severe irreversible damage. Classification shall consider both the magnitude of potential harm and the quality and uncertainty of supporting evidence; severe consequences alone do not establish their probability.

2.9 · Existential Risk

“Existential risk” means a risk of human extinction or permanent and drastic loss of humanity’s capacity to shape its long-term future. Claims of existential risk shall identify a plausible causal pathway and explicitly state evidentiary limits, uncertainties and competing assessments. This term shall not be used as a substitute for demonstrable analysis.

2.10 · Risk Classification: Classes I–V

For proportionate application, competent authorities shall classify systems by foreseeable harm, exposure, autonomy, scale, reversibility and safeguards: Class I — minimal risk with no credible material harm under intended conditions; Class II — limited, localized or readily reversible risk; Class III — significant risk to persons, rights or essential operations requiring documented controls; Class IV — high risk of serious or systemic harm requiring enhanced independent evaluation and oversight; Class V — credible catastrophic or existential risk requiring the strictest lawful preventive measures. Classifications shall be reasoned and documented; a class is not determined solely by technology type, and uncertainty shall be disclosed.

2.11 · Evidence-Based Assessment

Risk assessments shall distinguish observed incidents and validated findings from modeled estimates, plausible but unverified scenarios and speculation. They shall identify assumptions, uncertainties, foreseeable misuse, affected populations, available mitigations and residual risks. Independent review shall be required where this Act or implementing law mandates it, and confidential evidence shall be handled under lawful safeguards.

2.12 · Periodic Reassessment and Procedural Safeguards

Classifications shall be reviewed when capabilities, operating conditions, threat information or scientific evidence materially change and at intervals set by implementing law. Authorities shall provide reasons for materially restrictive decisions, afford affected parties appropriate opportunities to respond and ensure accessible review or appeal, subject to narrowly tailored emergency exceptions. Reclassification shall permit both stronger safeguards and relaxation of controls when justified by evidence.

Artikel 2 — Begriffsbestimmungen und Risikoklassifizierung

2.1 · Fortgeschrittene Technologien

„Fortgeschrittene Technologien“ im Sinne dieses Gesetzes sind technologische Systeme, Verfahren oder deren Kombinationen, deren Fähigkeiten, Einsatzbedingungen oder vorhersehbarer Missbrauch Menschenrechte, öffentliche Sicherheit, wesentliche Infrastrukturen oder langfristige Interessen der Menschheit erheblich berühren können. Dazu zählen gegebenenfalls künstliche Intelligenz, Quantentechnologien, fortgeschrittene Biotechnologie, autonome Robotik und konvergierende Systeme. Die Einordnung unter diesen Begriff bedeutet für sich genommen weder, dass eine Technologie gefährlich ist, noch dass erhöhte Kontrollen gelten.

2.2 · Künstliche Intelligenz (KI)

„Künstliche Intelligenz“ oder „KI“ bezeichnet ein maschinenbasiertes System, das mit unterschiedlichem Grad an Autonomie betrieben werden kann und für ausdrückliche oder implizite Ziele aus Eingaben ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt werden. Die regulatorische Bewertung richtet sich nach tatsächlichen Fähigkeiten, Einsatzbedingungen und möglichen Auswirkungen, nicht allein nach der Bezeichnung durch den Entwickler.

2.3 · Allgemeine künstliche Intelligenz (AGI)

„Artificial General Intelligence“ oder „AGI“ bezeichnet für dieses Modellgesetz eine angenommene Kategorie künstlicher Intelligenz mit breit übertragbaren und anpassungsfähigen Leistungen in wesentlich unterschiedlichen kognitiven Bereichen. Ein allgemein anerkannter wissenschaftlicher Schwellenwert wird nicht vorausgesetzt. Die Behauptung, ein System sei AGI, ersetzt keine evidenzbasierte Bewertung seiner konkreten Fähigkeiten, Autonomie und Risiken.

2.4 · Künstliche Superintelligenz (ASI)

„Artificial Superintelligence“ oder „ASI“ bezeichnet ein hypothetisches oder zukünftiges KI-System, das die höchsten menschlichen Fähigkeiten in einem breiten Spektrum anspruchsvoller kognitiver Bereiche erheblich übertrifft. Diese Definition setzt weder voraus, dass solche Systeme gegenwärtig existieren, noch dass ihre Entstehung unvermeidlich ist. Sollten Systeme mit entsprechenden Fähigkeiten entwickelt werden, richtet sich ihre Einstufung nach unabhängig bewerteten Fähigkeiten und Risiken.

2.5 · Quantentechnologien

„Quantentechnologien“ sind Technologien, die quantenmechanische Effekte wie Superposition, Verschränkung, Interferenz oder Quantenmessung gezielt für Berechnung, Kommunikation, Sensorik, Simulation oder verwandte Zwecke nutzen. Risiken sind nach Anwendungsfall und glaubhaft nachgewiesenen Fähigkeiten zu bewerten, einschließlich vorhersehbarer Folgen für Informationssicherheit und kritische Infrastrukturen. Die Nutzung von Quanteneffekten allein begründet keine hohe Risikoklasse.

2.6 · Autonome Systeme mit erheblichen Auswirkungen

„Autonome Systeme mit erheblichen Auswirkungen“ sind Systeme, die mit begrenzter unmittelbarer menschlicher Steuerung folgenreiche Handlungen auswählen oder ausführen können, wenn Fehler, Missbrauch oder Kontrollverlust Rechte, Sicherheit, wesentliche Dienstleistungen oder die Umwelt schwerwiegend beeinträchtigen können. Maßgeblich sind unter anderem Handlungsbefugnisse, Zugriff auf physische oder digitale Ressourcen, Umkehrbarkeit, Betriebsdauer und Wirksamkeit menschlicher Eingriffe.

2.7 · Systemisches Risiko

„Systemisches Risiko“ bezeichnet die glaubhafte Möglichkeit, dass sich technologische Fehler, Missbrauch oder schädliche Wechselwirkungen über vernetzte Systeme, Sektoren oder Institutionen ausbreiten und weitreichende Störungen verursachen. Zu berücksichtigen sind Abhängigkeiten, Kaskadeneffekte, gemeinsame Ausfallursachen sowie wirksame Möglichkeiten zur Eindämmung und Wiederherstellung.

2.8 · Katastrophales Risiko

„Katastrophales Risiko“ bezeichnet die glaubhafte Möglichkeit von Schäden außergewöhnlicher Schwere oder geografischer beziehungsweise gesellschaftlicher Reichweite, einschließlich massenhaften Verlusts von Menschenleben, anhaltenden Ausfalls wesentlicher Funktionen oder schwerer irreversibler Schäden. Die Einstufung berücksichtigt sowohl das mögliche Schadensausmaß als auch Qualität und Unsicherheit der zugrunde liegenden Erkenntnisse; schwerwiegende Folgen allein belegen nicht ihre Eintrittswahrscheinlichkeit.

2.9 · Existenzielles Risiko

„Existenzielles Risiko“ bezeichnet ein Risiko des Aussterbens der Menschheit oder eines dauerhaften, drastischen Verlusts ihrer Fähigkeit, ihre langfristige Zukunft selbst zu gestalten. Entsprechende Behauptungen müssen einen plausiblen Kausalpfad benennen und Grenzen der Evidenz, Unsicherheiten sowie abweichende Bewertungen ausdrücklich darstellen. Der Begriff darf eine nachvollziehbare Analyse nicht ersetzen.

2.10 · Risikoklassifizierung: Klassen I–V

Für eine verhältnismäßige Anwendung stufen zuständige Behörden Systeme nach vorhersehbarem Schaden, Exposition, Autonomie, Reichweite, Umkehrbarkeit und Schutzmaßnahmen ein: Klasse I — minimales Risiko ohne glaubhaft erhebliche Schäden unter vorgesehenen Bedingungen; Klasse II — begrenztes, örtliches oder leicht umkehrbares Risiko; Klasse III — erhebliches Risiko für Personen, Rechte oder wesentliche Betriebsabläufe mit dokumentationspflichtigen Schutzmaßnahmen; Klasse IV — hohes Risiko schwerwiegender oder systemischer Schäden mit erweiterter unabhängiger Prüfung und Aufsicht; Klasse V — glaubhaftes katastrophales oder existenzielles Risiko mit den strengsten gesetzlich zulässigen Präventionsmaßnahmen. Einstufungen sind zu begründen und zu dokumentieren; die Technologieart allein bestimmt die Klasse nicht. Unsicherheiten sind offenzulegen.

2.11 · Evidenzbasierte Bewertung

Risikobewertungen müssen beobachtete Zwischenfälle und validierte Erkenntnisse von modellierten Schätzungen, plausiblen, aber unbestätigten Szenarien und Spekulationen unterscheiden. Sie müssen Annahmen, Unsicherheiten, vorhersehbaren Missbrauch, betroffene Bevölkerungsgruppen, mögliche Gegenmaßnahmen und verbleibende Risiken benennen. Eine unabhängige Überprüfung ist vorzunehmen, soweit dieses Gesetz oder das Umsetzungsrecht sie verlangt; vertrauliche Erkenntnisse sind unter gesetzlichen Schutzvorkehrungen zu behandeln.

2.12 · Regelmäßige Neubewertung und Verfahrensgarantien

Risikoklassen sind erneut zu prüfen, wenn sich Fähigkeiten, Einsatzbedingungen, Bedrohungslage oder wissenschaftliche Erkenntnisse wesentlich ändern, sowie in den gesetzlich vorgesehenen Abständen. Behörden müssen erheblich belastende Entscheidungen begründen, Betroffenen angemessene Möglichkeiten zur Stellungnahme einräumen und wirksame Überprüfungs- oder Rechtsbehelfsverfahren gewährleisten; eng begrenzte Ausnahmen für Notfälle bleiben möglich. Eine Neueinstufung muss sowohl strengere Schutzmaßnahmen als auch die evidenzbasierte Lockerung von Beschränkungen erlauben.

HPA / 03

Article 3 — Fundamental Human Rights and Prohibited Technological Practices

3.1 · Supremacy of Human Rights

The design, development, deployment and use of advanced technologies shall respect internationally recognized human rights and human dignity. Technological efficiency, commercial advantage or claims of superior machine capability shall not in themselves justify derogation from those rights. Public authorities shall ensure that applicable rights remain enforceable against both public and private actors in accordance with law.

3.2 · Right to Human Autonomy

Every person shall be protected against unlawful technological coercion, compelled dependence and interference with meaningful personal decision-making. Systems materially affecting liberty, bodily integrity or essential life opportunities shall be designed and governed so that affected persons retain legally protected choices and effective means of contesting coercive outcomes.

3.3 · Cognitive and Mental Integrity

Unlawful acquisition, inference, manipulation or disclosure of sensitive mental or neural information shall be prohibited. Interventions affecting cognitive freedom, mental privacy or psychological integrity shall require an appropriate legal basis and, where applicable, freely given and informed consent. Special safeguards shall protect children and persons in vulnerable situations.

3.4 · Technological Discrimination

The development and use of advanced technologies shall not result in discrimination prohibited by applicable human-rights law. Where systems materially influence access to employment, education, healthcare, public services or justice, responsible entities shall assess foreseeable discriminatory effects, document mitigation measures and provide accessible procedures for complaints and correction.

3.5 · Meaningful Human Review

Persons significantly affected by consequential automated decisions shall have access, as provided by applicable law, to understandable information about the decision, an effective opportunity to challenge material errors and meaningful review by an accountable human authority. Review shall be capable of changing the outcome where justified and shall not be merely formal.

3.6 · Prohibition of Mass Manipulation and Technological Oppression

Advanced technologies shall not be used for unlawful population-scale manipulation, coercive surveillance, systematic suppression of lawful expression or deliberate deprivation of fundamental rights. States shall establish safeguards against the misuse of behavioral profiling, persuasive systems and autonomous monitoring, while protecting legitimate research and lawful public-interest activities.

3.7 · Protection Against Existential Threats

States and competent institutions shall take proportionate, evidence-informed measures to prevent credible technological scenarios capable of causing catastrophic or existential harm. Assessments shall distinguish demonstrated capabilities, plausible pathways and speculative hypotheses, and shall document uncertainties and the grounds for any intervention.

3.8 · Prohibition of Uncontrolled Autonomous Escalation

Developers and operators shall not knowingly deploy autonomous systems where foreseeable self-amplifying behavior, unauthorized resource acquisition or uncontrolled interactions create unacceptable catastrophic risks that cannot be adequately mitigated. Appropriate constraints, monitoring, intervention procedures and independent evaluation shall be required in proportion to risk.

3.9 · Effective Remedy

Any person whose protected rights have been violated through the development or use of advanced technologies shall have access to effective remedies under applicable law. Such remedies may include independent investigation, cessation of unlawful conduct, correction of decisions, appropriate compensation and judicial or administrative review, subject to due process.

3.10 · Protection of Future Generations

In decisions concerning technologies capable of causing irreversible, long-term harm, competent authorities shall consider the interests of future generations. Assessment shall address durable effects on human autonomy, the environment, institutional resilience and the continued ability of future societies to determine their own development.

3.11 · Limitations and Safeguards

Any restriction of rights adopted in the name of technological safety shall be prescribed by law, pursue a legitimate aim and be necessary, proportionate, non-discriminatory and subject to effective independent review. Emergency measures shall be time-limited where appropriate and shall not displace non-derogable rights or applicable international obligations.

Artikel 3 — Grundrechte und verbotene technologische Praktiken

3.1 · Vorrang der Menschenrechte

Entwicklung, Bereitstellung und Nutzung fortgeschrittener Technologien müssen die international anerkannten Menschenrechte und die Menschenwürde achten. Technologische Effizienz, wirtschaftliche Vorteile oder Behauptungen über überlegene maschinelle Fähigkeiten rechtfertigen für sich genommen keine Abweichung von diesen Rechten. Öffentliche Stellen haben nach Maßgabe des Rechts sicherzustellen, dass die geltenden Rechte gegenüber staatlichen und privaten Akteuren durchsetzbar bleiben.

3.2 · Recht auf menschliche Autonomie

Jeder Mensch ist vor rechtswidrigem technologischem Zwang, erzwungener Abhängigkeit und Eingriffen in seine wirksame persönliche Entscheidungsfreiheit zu schützen. Systeme, die Freiheit, körperliche Unversehrtheit oder wesentliche Lebenschancen erheblich beeinflussen, sind so zu gestalten und zu beaufsichtigen, dass Betroffene rechtlich geschützte Wahlmöglichkeiten und wirksame Mittel gegen erzwungene Entscheidungen behalten.

3.3 · Kognitive und mentale Integrität

Die rechtswidrige Erhebung, Ableitung, Manipulation oder Offenlegung sensibler mentaler oder neuronaler Informationen ist zu untersagen. Eingriffe in kognitive Freiheit, mentale Privatsphäre oder psychische Integrität bedürfen einer geeigneten Rechtsgrundlage und, soweit erforderlich, einer freiwilligen und informierten Einwilligung. Besondere Schutzmaßnahmen gelten für Kinder und Menschen in vulnerablen Situationen.

3.4 · Technologisches Diskriminierungsverbot

Entwicklung und Einsatz fortgeschrittener Technologien dürfen nicht zu Diskriminierungen führen, die nach geltendem Menschenrecht verboten sind. Soweit Systeme den Zugang zu Beschäftigung, Bildung, Gesundheitsversorgung, öffentlichen Leistungen oder Rechtsschutz wesentlich beeinflussen, haben verantwortliche Stellen vorhersehbare diskriminierende Auswirkungen zu prüfen, Gegenmaßnahmen zu dokumentieren und zugängliche Beschwerde- und Berichtigungsverfahren bereitzustellen.

3.5 · Wirksame menschliche Überprüfung

Personen, die von folgenreichen automatisierten Entscheidungen erheblich betroffen sind, müssen nach Maßgabe des geltenden Rechts verständliche Informationen über die Entscheidung, eine wirksame Möglichkeit zur Anfechtung wesentlicher Fehler und eine sachliche Prüfung durch eine verantwortliche menschliche Stelle erhalten. Die Überprüfung muss bei entsprechender Begründung zu einer Änderung des Ergebnisses führen können und darf nicht lediglich formaler Natur sein.

3.6 · Verbot von Massenmanipulation und technologischer Unterdrückung

Fortgeschrittene Technologien dürfen nicht für rechtswidrige Manipulation ganzer Bevölkerungsgruppen, Zwangsüberwachung, systematische Unterdrückung rechtmäßiger Meinungsäußerung oder den vorsätzlichen Entzug grundlegender Rechte eingesetzt werden. Staaten haben Schutzvorkehrungen gegen den Missbrauch von Verhaltensprofilen, Beeinflussungssystemen und autonomer Überwachung einzurichten und zugleich legitime Forschung und rechtmäßige Tätigkeiten im öffentlichen Interesse zu schützen.

3.7 · Schutz vor existenziellen Bedrohungen

Staaten und zuständige Institutionen haben verhältnismäßige, erkenntnisgestützte Maßnahmen zu ergreifen, um glaubhafte technologische Szenarien mit katastrophalen oder existenziellen Folgen zu verhindern. Bewertungen müssen zwischen nachgewiesenen Fähigkeiten, plausiblen Gefährdungspfaden und spekulativen Hypothesen unterscheiden sowie Unsicherheiten und die Gründe für Eingriffe dokumentieren.

3.8 · Verbot unkontrollierter autonomer Eskalation

Entwickler und Betreiber dürfen autonome Systeme nicht wissentlich einsetzen, wenn vorhersehbares sich selbst verstärkendes Verhalten, unbefugte Ressourcenbeschaffung oder unkontrollierte Wechselwirkungen unvertretbare katastrophale Risiken erzeugen, die nicht ausreichend begrenzt werden können. Angemessene Beschränkungen, Überwachung, Eingriffsverfahren und unabhängige Prüfungen sind entsprechend dem Risiko erforderlich.

3.9 · Wirksame Rechtsbehelfe

Jede Person, deren geschützte Rechte durch Entwicklung oder Einsatz fortgeschrittener Technologien verletzt wurden, muss nach Maßgabe des geltenden Rechts Zugang zu wirksamen Rechtsbehelfen haben. Dazu können unabhängige Untersuchungen, die Beendigung rechtswidriger Handlungen, die Berichtigung von Entscheidungen, angemessener Schadensersatz und gerichtliche oder behördliche Überprüfung unter Wahrung rechtsstaatlicher Verfahren gehören.

3.10 · Schutz zukünftiger Generationen

Bei Entscheidungen über Technologien, die irreversible langfristige Schäden verursachen können, haben zuständige Behörden die Interessen zukünftiger Generationen zu berücksichtigen. Die Bewertung muss dauerhafte Auswirkungen auf menschliche Autonomie, Umwelt, institutionelle Widerstandsfähigkeit und die Fähigkeit künftiger Gesellschaften zur selbstbestimmten Entwicklung einbeziehen.

3.11 · Grenzen und Schutzvorkehrungen

Jede im Namen technologischer Sicherheit vorgenommene Einschränkung von Rechten muss gesetzlich vorgesehen sein, einem legitimen Ziel dienen sowie erforderlich, verhältnismäßig, diskriminierungsfrei und wirksam unabhängig überprüfbar sein. Notfallmaßnahmen sind, soweit angemessen, zeitlich zu begrenzen und dürfen weder unabdingbare Rechte noch geltende internationale Verpflichtungen verdrängen.

HPA / 04

Article 4 — Duties of States, Corporations and Research Institutions

4.1 · General Duty of Care

States, developers, providers, deployers, operators and research institutions shall exercise a duty of care proportionate to the capabilities, intended use, scale and reasonably foreseeable consequences of advanced technologies. This duty includes identifying, documenting, reducing and periodically reassessing material risks to human dignity, fundamental rights, public safety and the continued ability of humanity to exercise meaningful control. Responsibility shall be allocated according to actual authority, knowledge and capacity to prevent harm.

4.2 · Obligations of States

States adopting this Act shall establish clear and accessible legal requirements, designate competent supervisory authorities and provide adequate resources for enforcement. They shall maintain independent review procedures, access to effective remedies and mechanisms for public consultation. Regulatory measures shall be risk-based, scientifically informed, non-discriminatory and consistent with constitutional guarantees and applicable international law.

4.3 · Developers and Providers

Developers and providers shall assess foreseeable hazards throughout design, training, testing, release, modification and retirement of relevant systems. For systems presenting significant risks, they shall maintain documented risk assessments, appropriate technical safeguards, traceable decision records and procedures for reporting material safety defects. Information needed for lawful independent scrutiny shall be made available to competent authorities subject to legitimate confidentiality and security protections.

4.4 · Operators and Deployers

Operators and deployers shall use advanced technological systems only within authorized conditions and shall maintain oversight appropriate to their operational risks. They shall monitor material changes in performance, misuse patterns and external conditions, respond promptly to credible warning signs and suspend or restrict operation where continued use presents an unacceptable and insufficiently controlled risk. Responsibilities shall not be displaced solely by contractual allocation to another party.

4.5 · Research Institutions

Research institutions shall preserve scientific independence while maintaining proportionate research-integrity, biosafety, cybersecurity and technological-safety procedures. Research involving credible pathways to catastrophic harm shall receive documented independent review before high-risk experimentation or external deployment. Safeguards shall distinguish exploratory fundamental research from activities that create immediate operational hazards.

4.6 · Independent Safety Evaluation

Class III, IV and V systems shall be subject to safety evaluation commensurate with their risk classification, including independent assessment where warranted by the potential scale or irreversibility of harm. Evaluations shall examine realistic operating conditions, foreseeable misuse, systemic dependencies, failure modes and the effectiveness of human oversight and containment. Evaluators shall disclose material conflicts of interest and record unresolved uncertainties.

4.7 · Whistleblower Protection

Persons who report in good faith credible technological safety concerns, unlawful practices or concealment of serious incidents to competent channels shall be protected against unlawful retaliation. States shall provide confidential reporting mechanisms and proportionate safeguards for affected persons. Protection shall not authorize indiscriminate disclosure of personal data, security-sensitive information or material whose release would itself create serious harm.

4.8 · Accountability and Liability

Applicable national law shall establish effective administrative, civil and, where appropriate, criminal accountability for breaches of legally adopted duties. Responsibility shall reflect causation, fault or other lawful bases of liability and the actual ability to control relevant risks. Affected persons shall have access to impartial procedures and effective remedies; sanctions shall be proportionate and subject to judicial review.

4.9 · International Cooperation

States and competent institutions shall cooperate in the responsible exchange of verified safety findings, incident lessons and appropriate technical expertise, particularly where technological risks cross borders. Cooperation shall respect privacy, legitimate intellectual property, national security obligations and the rights of affected populations. Requests for assistance and information shall operate through lawful and accountable channels.

4.10 · Proportionality and Protection of Research

Implementation of duties under this Article shall not impose unnecessary barriers on peaceful fundamental research, independent scientists or smaller organizations. Authorities shall use the least restrictive effective measures, review restrictions as evidence changes and provide reasons for significant decisions. No duty established by this model Act shall be treated as binding unless adopted through an applicable legal instrument.

Artikel 4 — Pflichten von Staaten, Unternehmen und Forschungseinrichtungen

4.1 · Allgemeine Sorgfaltspflicht

Staaten, Entwickler, Anbieter, einsetzende Stellen, Betreiber und Forschungseinrichtungen haben eine Sorgfaltspflicht zu erfüllen, die den Fähigkeiten, dem vorgesehenen Einsatz, der Reichweite und den vernünftigerweise vorhersehbaren Folgen fortgeschrittener Technologien entspricht. Dazu gehören die Erkennung, Dokumentation, Verringerung und regelmäßige Neubewertung wesentlicher Risiken für Menschenwürde, Grundrechte, öffentliche Sicherheit und die fortdauernde Fähigkeit der Menschheit zu wirksamer Kontrolle. Verantwortung ist nach tatsächlicher Entscheidungsbefugnis, Kenntnis und Möglichkeit zur Schadensverhütung zuzuordnen.

4.2 · Pflichten der Staaten

Staaten, die dieses Gesetz übernehmen, haben klare und zugängliche rechtliche Anforderungen festzulegen, zuständige Aufsichtsbehörden zu benennen und ausreichende Mittel für die Durchsetzung bereitzustellen. Sie müssen unabhängige Überprüfungsverfahren, wirksame Rechtsbehelfe und Möglichkeiten öffentlicher Konsultation gewährleisten. Regulatorische Maßnahmen müssen risikobasiert, wissenschaftlich fundiert, diskriminierungsfrei und mit verfassungsrechtlichen Garantien sowie geltendem Völkerrecht vereinbar sein.

4.3 · Entwickler und Anbieter

Entwickler und Anbieter haben vorhersehbare Gefahren während Entwurf, Training, Prüfung, Freigabe, Änderung und Außerbetriebnahme relevanter Systeme zu bewerten. Bei Systemen mit erheblichen Risiken müssen sie dokumentierte Risikobewertungen, geeignete technische Schutzmaßnahmen, nachvollziehbare Entscheidungsaufzeichnungen und Verfahren zur Meldung wesentlicher Sicherheitsmängel vorhalten. Für eine rechtmäßige unabhängige Kontrolle erforderliche Informationen sind zuständigen Behörden unter Wahrung berechtigter Vertraulichkeits- und Sicherheitsinteressen bereitzustellen.

4.4 · Betreiber und einsetzende Stellen

Betreiber und einsetzende Stellen dürfen fortgeschrittene technologische Systeme nur innerhalb genehmigter Bedingungen verwenden und müssen eine den Betriebsrisiken angemessene Aufsicht sicherstellen. Sie haben wesentliche Leistungsänderungen, Missbrauchsmuster und veränderte Rahmenbedingungen zu beobachten, auf glaubhafte Warnsignale unverzüglich zu reagieren und den Betrieb auszusetzen oder einzuschränken, wenn eine Fortsetzung unvertretbare und nicht ausreichend beherrschte Risiken schafft. Verantwortung entfällt nicht allein dadurch, dass sie vertraglich einer anderen Partei zugewiesen wird.

4.5 · Forschungseinrichtungen

Forschungseinrichtungen haben ihre wissenschaftliche Unabhängigkeit zu bewahren und zugleich angemessene Verfahren zur Forschungsintegrität sowie zur biologischen, digitalen und technologischen Sicherheit vorzuhalten. Forschung mit glaubhaften Gefährdungspfaden zu katastrophalen Schäden muss vor Hochrisikoexperimenten oder einem externen Einsatz dokumentiert unabhängig überprüft werden. Schutzmaßnahmen müssen zwischen explorativer Grundlagenforschung und Tätigkeiten mit unmittelbaren betrieblichen Gefahren unterscheiden.

4.6 · Unabhängige Sicherheitsbewertung

Systeme der Risikoklassen III, IV und V müssen entsprechend ihrer Risikoeinstufung sicherheitsbewertet werden; eine unabhängige Prüfung ist insbesondere dann vorzusehen, wenn Ausmaß oder Unumkehrbarkeit möglicher Schäden dies erfordern. Die Bewertung umfasst realistische Einsatzbedingungen, vorhersehbaren Missbrauch, systemische Abhängigkeiten, Fehlerarten sowie die Wirksamkeit menschlicher Aufsicht und technischer Eindämmung. Prüfende müssen wesentliche Interessenkonflikte offenlegen und verbleibende Unsicherheiten dokumentieren.

4.7 · Schutz hinweisgebender Personen

Personen, die in gutem Glauben glaubhafte technologische Sicherheitsbedenken, rechtswidrige Praktiken oder die Vertuschung schwerwiegender Vorfälle über zuständige Meldewege anzeigen, sind vor rechtswidrigen Vergeltungsmaßnahmen zu schützen. Staaten haben vertrauliche Meldeverfahren und angemessene Schutzvorkehrungen bereitzustellen. Dieser Schutz gestattet keine unterschiedslose Offenlegung personenbezogener Daten, sicherheitskritischer Informationen oder von Materialien, deren Veröffentlichung selbst schwere Schäden verursachen würde.

4.8 · Verantwortlichkeit und Haftung

Das jeweils geltende nationale Recht muss eine wirksame verwaltungsrechtliche, zivilrechtliche und gegebenenfalls strafrechtliche Verantwortlichkeit bei Verstößen gegen rechtswirksam übernommene Pflichten vorsehen. Die Zurechnung richtet sich nach Verursachung, Verschulden oder anderen rechtmäßigen Haftungsgrundlagen sowie der tatsächlichen Möglichkeit, maßgebliche Risiken zu kontrollieren. Betroffene müssen Zugang zu unparteiischen Verfahren und wirksamen Rechtsbehelfen erhalten; Sanktionen müssen verhältnismäßig und gerichtlich überprüfbar sein.

4.9 · Internationale Zusammenarbeit

Staaten und zuständige Einrichtungen haben beim verantwortungsvollen Austausch überprüfter Sicherheitserkenntnisse, Erfahrungen aus Zwischenfällen und geeigneten technischen Fachwissens zusammenzuarbeiten, insbesondere bei grenzüberschreitenden technologischen Risiken. Die Zusammenarbeit muss Privatsphäre, berechtigte Rechte des geistigen Eigentums, nationale Sicherheitsverpflichtungen und die Rechte betroffener Bevölkerungen achten. Unterstützungs- und Informationsersuchen erfolgen über rechtmäßige und rechenschaftspflichtige Verfahren.

4.10 · Verhältnismäßigkeit und Schutz der Forschung

Die Umsetzung der Pflichten dieses Artikels darf keine unnötigen Hindernisse für friedliche Grundlagenforschung, unabhängige Wissenschaftler oder kleinere Organisationen schaffen. Behörden haben die am wenigsten einschränkenden wirksamen Maßnahmen anzuwenden, Beschränkungen bei veränderter Erkenntnislage zu überprüfen und wesentliche Entscheidungen zu begründen. Keine Pflicht dieses Modellgesetzes gilt als verbindlich, solange sie nicht durch ein anwendbares Rechtsinstrument übernommen wurde.

HPA / 05

Article 5 — International Oversight and Enforcement

5.1 · International Oversight Framework

States adopting this Act should establish or designate an international cooperation framework to exchange safety assessments, coordinate cross-border incident responses and identify emerging systemic risks. The framework shall operate only under mandates conferred by applicable national law or valid international agreements, and shall respect State sovereignty, human rights and scientific freedom.

5.2 · Proposed International Humanity Protection Council

An International Humanity Protection Council (IHPC) is proposed as a possible scientific advisory and coordinating institution. Subject to a future constitutive legal instrument, its functions may include publishing non-binding risk guidance, facilitating expert review, coordinating early warnings and supporting national authorities. The proposal itself neither establishes the Council nor confers legal powers upon it.

5.3 · Institutional Independence and Integrity

Any oversight institution established under implementing law shall apply transparent appointment procedures, safeguards against political or commercial capture, conflict-of-interest disclosures and independent scientific peer review. Its members shall be accountable for professional integrity and shall publish reasons for material recommendations, subject to justified confidentiality protections.

5.4 · Competent National Authorities

Each adopting State shall designate competent national authorities and define their jurisdiction, duties, investigative powers and coordination arrangements by law. Authorities shall possess adequate technical expertise and resources. No authority may exercise powers beyond those conferred by the applicable legal framework.

5.5 · Monitoring, Evaluation and Independent Audits

Implementing law shall provide risk-proportionate monitoring and, for systems presenting serious risks, independent safety evaluations and periodic audits. Assessments shall address operational capabilities, foreseeable misuse, human-rights impacts, resilience and effectiveness of controls. Audit procedures shall protect personal data, legitimate confidential information and procedural rights.

5.6 · Mandatory Notification of Serious Incidents

Operators and developers subject to implementing law shall notify designated authorities of serious technological incidents and credible near misses within legally specified periods. Initial notifications should identify known facts, affected systems, potential cross-border effects, urgent protective actions and material uncertainties. Subsequent reports shall correct preliminary findings as evidence develops.

5.7 · Precautionary and Emergency Measures

Where substantiated evidence indicates imminent serious or catastrophic harm, competent authorities may impose temporary, necessary and proportionate protective measures to the extent expressly authorized by law. Such measures may include operational limits, independent inspection, suspension or controlled shutdown. Reasons shall be recorded, time limits specified and prompt independent review made available.

5.8 · Investigations and Cross-Border Cooperation

Competent authorities may investigate incidents and request relevant technical information pursuant to applicable law and due-process safeguards. Cross-border cooperation shall use lawful information-sharing arrangements, preserve evidence integrity and respect jurisdictional limits. Sensitive information shall be shared only to the extent necessary and under appropriate security and privacy safeguards.

5.9 · Enforcement, Liability and Sanctions

National implementing legislation shall establish clear, foreseeable and proportionate enforcement mechanisms, including corrective orders and, where justified, administrative or judicial sanctions. Liability and penalties shall be determined by applicable law and shall distinguish intentional misconduct, negligence and good-faith compliance. No sanction shall be imposed without an adequate legal basis and fair procedure.

5.10 · Independent Review and Effective Remedies

Persons and organizations affected by regulatory measures shall have access to impartial review and effective remedies in accordance with applicable law. Emergency measures shall be reviewable without undue delay. Procedures shall provide an opportunity to contest factual findings, challenge disproportionate restrictions and seek appropriate redress for unlawful action.

5.11 · Transparency and Public Reporting

Oversight authorities shall periodically publish accessible reports on risk trends, material incidents, regulatory decisions and the effectiveness of protective measures. Reports shall distinguish verified findings from uncertainty and shall protect personal data, legitimate security interests, confidential research and trade secrets where required by law.

5.12 · Limits of International Authority

Nothing in this Article creates an international enforcement agency, overrides national constitutional requirements or grants any proposed body coercive authority. Binding international inspection, enforcement or dispute-settlement powers may arise only from a valid legal instrument accepted by the relevant parties and shall remain subject to human-rights safeguards, accountability and independent review.

Artikel 5 — Internationale Aufsicht und Durchsetzung

5.1 · Internationaler Aufsichtsrahmen

Staaten, die dieses Gesetz übernehmen, sollen einen internationalen Kooperationsrahmen einrichten oder benennen, um Sicherheitsbewertungen auszutauschen, grenzüberschreitende Reaktionen auf Zwischenfälle abzustimmen und neu entstehende systemische Risiken zu erkennen. Der Rahmen darf ausschließlich auf Grundlage von Zuständigkeiten handeln, die durch anwendbares nationales Recht oder wirksame internationale Vereinbarungen übertragen wurden; staatliche Souveränität, Menschenrechte und Wissenschaftsfreiheit sind zu achten.

5.2 · Vorgeschlagener International Humanity Protection Council

Ein International Humanity Protection Council (IHPC) wird als mögliche wissenschaftliche Beratungs- und Koordinierungseinrichtung vorgeschlagen. Vorbehaltlich eines künftigen rechtswirksamen Gründungsinstruments können seine Aufgaben die Veröffentlichung unverbindlicher Risikoempfehlungen, die Unterstützung unabhängiger Begutachtungen, die Koordinierung von Frühwarnungen und die Beratung nationaler Behörden umfassen. Dieser Vorschlag errichtet den Rat nicht und verleiht ihm keine rechtlichen Befugnisse.

5.3 · Institutionelle Unabhängigkeit und Integrität

Jede nach dem Umsetzungsrecht geschaffene Aufsichtseinrichtung muss transparente Berufungsverfahren, Schutzvorkehrungen gegen politische oder wirtschaftliche Vereinnahmung, Offenlegung von Interessenkonflikten und unabhängige wissenschaftliche Begutachtung gewährleisten. Ihre Mitglieder sind zur fachlichen Integrität verpflichtet; wesentliche Empfehlungen sind unter Wahrung gerechtfertigter Vertraulichkeit nachvollziehbar zu begründen.

5.4 · Zuständige nationale Behörden

Jeder übernehmende Staat hat zuständige nationale Behörden zu benennen und deren Zuständigkeiten, Pflichten, Ermittlungsbefugnisse und Koordinierungsverfahren gesetzlich festzulegen. Die Behörden müssen über angemessene fachliche Kompetenz und Ressourcen verfügen. Keine Behörde darf über die ihr nach geltendem Recht übertragenen Befugnisse hinaus handeln.

5.5 · Überwachung, Bewertung und unabhängige Prüfungen

Das Umsetzungsrecht muss eine risikogerechte Überwachung und für Systeme mit schwerwiegenden Risiken unabhängige Sicherheitsbewertungen sowie regelmäßige Prüfungen vorsehen. Diese haben Betriebsfähigkeiten, vorhersehbaren Missbrauch, Auswirkungen auf Menschenrechte, Widerstandsfähigkeit und Wirksamkeit der Schutzmaßnahmen zu berücksichtigen. Prüfverfahren müssen personenbezogene Daten, berechtigte Geheimhaltungsinteressen und Verfahrensrechte schützen.

5.6 · Verpflichtende Meldung schwerwiegender Zwischenfälle

Entwickler und Betreiber, die dem Umsetzungsrecht unterliegen, müssen schwerwiegende technologische Zwischenfälle und glaubhaft belegte Beinaheereignisse innerhalb gesetzlich bestimmter Fristen den zuständigen Behörden melden. Erste Meldungen sollen bekannte Tatsachen, betroffene Systeme, mögliche grenzüberschreitende Folgen, dringliche Schutzmaßnahmen und wesentliche Unsicherheiten benennen. Spätere Berichte müssen vorläufige Erkenntnisse entsprechend neuer Beweise berichtigen.

5.7 · Vorsorge- und Notfallmaßnahmen

Deuten hinreichend belegte Erkenntnisse auf unmittelbar drohende schwere oder katastrophale Schäden hin, dürfen zuständige Behörden vorübergehende, erforderliche und verhältnismäßige Schutzmaßnahmen nur insoweit ergreifen, wie das Gesetz sie ausdrücklich ermächtigt. Hierzu können Betriebsbeschränkungen, unabhängige Kontrollen, Aussetzungen oder kontrollierte Abschaltungen gehören. Die Gründe sind zu dokumentieren, Fristen festzulegen und eine zeitnahe unabhängige Überprüfung zu ermöglichen.

5.8 · Untersuchungen und grenzüberschreitende Zusammenarbeit

Zuständige Behörden dürfen Zwischenfälle untersuchen und relevante technische Informationen nach Maßgabe des geltenden Rechts und unter Wahrung rechtsstaatlicher Garantien anfordern. Grenzüberschreitende Zusammenarbeit muss rechtmäßige Verfahren des Informationsaustauschs nutzen, die Integrität von Beweismitteln sichern und Zuständigkeitsgrenzen achten. Sensible Informationen dürfen nur im erforderlichen Umfang und mit angemessenen Sicherheits- und Datenschutzvorkehrungen ausgetauscht werden.

5.9 · Durchsetzung, Haftung und Sanktionen

Das nationale Umsetzungsrecht muss klare, vorhersehbare und verhältnismäßige Durchsetzungsmechanismen vorsehen, einschließlich Abhilfeanordnungen und gegebenenfalls verwaltungsrechtlicher oder gerichtlicher Sanktionen. Haftung und Strafen richten sich nach geltendem Recht und müssen vorsätzliches Fehlverhalten, Fahrlässigkeit und gutgläubige Befolgung unterscheiden. Sanktionen setzen eine ausreichende Rechtsgrundlage und ein faires Verfahren voraus.

5.10 · Unabhängige Überprüfung und wirksamer Rechtsschutz

Von Regulierungsmaßnahmen betroffene Personen und Organisationen müssen nach Maßgabe des geltenden Rechts Zugang zu unparteiischer Überprüfung und wirksamen Rechtsbehelfen haben. Notfallmaßnahmen müssen ohne unangemessene Verzögerung überprüfbar sein. Verfahren müssen die Anfechtung tatsächlicher Feststellungen, die Überprüfung unverhältnismäßiger Beschränkungen und angemessenen Ausgleich für rechtswidriges Handeln ermöglichen.

5.11 · Transparenz und öffentliche Berichterstattung

Aufsichtsbehörden haben regelmäßig verständliche Berichte über Risikotrends, wesentliche Zwischenfälle, regulatorische Entscheidungen und die Wirksamkeit von Schutzmaßnahmen zu veröffentlichen. Berichte müssen gesicherte Erkenntnisse von Unsicherheiten unterscheiden und personenbezogene Daten, berechtigte Sicherheitsinteressen, vertrauliche Forschung sowie gesetzlich geschützte Geschäftsgeheimnisse wahren.

5.12 · Grenzen internationaler Befugnisse

Dieser Artikel schafft keine internationale Vollzugsbehörde, setzt nationale Verfassungsanforderungen nicht außer Kraft und überträgt keinem vorgeschlagenen Gremium Zwangsbefugnisse. Verbindliche internationale Inspektions-, Durchsetzungs- oder Streitbeilegungsbefugnisse können nur durch ein wirksames, von den betroffenen Parteien angenommenes Rechtsinstrument entstehen und müssen Menschenrechtsschutz, Rechenschaftspflicht und unabhängiger Kontrolle unterliegen.

HPA / 06

Article 6 — Technological Risk Prevention and Emergency Response

6.1 · Principle of Preventive Protection

States, competent authorities, developers and operators shall adopt proportionate preventive measures against reasonably foreseeable technological risks capable of causing serious, systemic, catastrophic or existential harm. Prevention shall take precedence over reactive intervention where credible evidence indicates a substantial probability of irreversible consequences.

6.2 · Early Warning and Risk Detection

Participating States shall establish or designate mechanisms for the early detection of emerging technological hazards. Such mechanisms shall include: (a) continuous scientific assessment of emerging technological capabilities; (b) identification of hazardous interactions between AI, quantum technologies, biotechnology and autonomous systems; (c) monitoring of significant safety incidents and technological failures; (d) international exchange of verified safety information; and (e) periodic reassessment of technological risk classifications.

6.3 · Assessment of Convergent Technologies

Technological systems combining multiple advanced technologies shall undergo integrated risk assessments where their interactions may materially increase the severity, scale or likelihood of harm. Particular attention shall be given to: (a) AI-assisted quantum computing and optimization; (b) autonomous systems with access to critical infrastructure; (c) AI-enabled biological design and experimentation; (d) quantum-enabled cryptographic disruption; and (e) systems capable of autonomous improvement, replication or expansion.

6.4 · Mandatory Safety Measures

Developers and operators of Class III, IV and V systems shall implement safeguards proportionate to the assessed risks, including where appropriate: (a) independent safety testing; (b) operational restrictions and access controls; (c) continuous monitoring and anomaly detection; (d) secure logging and incident documentation; (e) containment and recovery procedures; and (f) effective mechanisms for suspension or safe termination of operations.

6.5 · Emergency Intervention Authority

Where credible and substantiated evidence indicates an imminent threat of catastrophic harm, competent national authorities may order temporary restrictions, suspension or controlled shutdown of affected systems within their lawful jurisdiction. Such measures shall be necessary, proportionate, documented and subject to independent review.

6.6 · Human Control and Intervention

High-impact autonomous systems shall incorporate effective human oversight and intervention capabilities appropriate to their operational context and risks. Where immediate human intervention is technically infeasible, equivalent independently validated safeguards shall be required.

6.7 · International Emergency Coordination

Participating States shall establish secure communication channels and cooperative response procedures for technological incidents with significant transboundary consequences. Coordination shall include relevant scientific institutions, cybersecurity authorities, emergency-management agencies and other competent bodies.

6.8 · Protection of Critical Infrastructure

Advanced technological systems affecting energy supply, communications, healthcare, water infrastructure, transportation, financial stability or strategic security shall be subject to enhanced resilience and continuity requirements.

6.9 · Incident Reporting and Investigation

Serious technological incidents shall be reported to competent authorities within prescribed periods. Reports shall document known causes, consequences, corrective measures and material uncertainties. Independent investigation shall be required where incidents indicate systemic failures or credible catastrophic risks.

6.10 · Recovery and Remediation

States and responsible operators shall maintain proportionate recovery and remediation plans addressing technological failures, cascading disruptions and foreseeable long-term consequences.

6.11 · Protection Against Misuse of Emergency Powers

Emergency measures adopted under this Article shall not be used to suppress legitimate scientific research, restrict fundamental rights arbitrarily or establish indefinite technological surveillance. All extraordinary measures shall be subject to legal oversight, periodic reassessment and effective remedies.

6.12 · Scientific Review and Continuous Improvement

Preventive measures, safety standards and emergency-response procedures shall be periodically reviewed in light of scientific developments, operational evidence and lessons learned from technological incidents.

Artikel 6 — Prävention technologischer Risiken und Notfallmaßnahmen

6.1 · Grundsatz des vorbeugenden Schutzes

Staaten, zuständige Behörden, Entwickler und Betreiber haben verhältnismäßige vorbeugende Maßnahmen gegen vernünftigerweise vorhersehbare technologische Risiken zu ergreifen, die schwerwiegende, systemische, katastrophale oder existenzielle Schäden verursachen können. Prävention hat Vorrang vor nachträglichen Eingriffen, wenn glaubhafte Erkenntnisse auf eine erhebliche Wahrscheinlichkeit irreversibler Folgen hinweisen.

6.2 · Frühwarnung und Risikoerkennung

Teilnehmende Staaten haben Mechanismen zur frühzeitigen Erkennung neu entstehender technologischer Gefahren einzurichten oder zu benennen. Diese Mechanismen umfassen: (a) kontinuierliche wissenschaftliche Bewertung neuer technologischer Fähigkeiten; (b) Identifizierung gefährlicher Wechselwirkungen zwischen KI, Quantentechnologien, Biotechnologie und autonomen Systemen; (c) Überwachung bedeutender Sicherheitsvorfälle und technologischer Fehlfunktionen; (d) internationalen Austausch verifizierter Sicherheitsinformationen; und (e) regelmäßige Neubewertung technologischer Risikoklassifizierungen.

6.3 · Bewertung konvergierender Technologien

Systeme, die mehrere fortgeschrittene Technologien kombinieren, sind einer integrierten Risikobewertung zu unterziehen, wenn ihre Wechselwirkungen Schwere, Ausmaß oder Wahrscheinlichkeit möglicher Schäden wesentlich erhöhen können. Besondere Aufmerksamkeit gilt: (a) KI-gestütztem Quantencomputing und Optimierungsverfahren; (b) autonomen Systemen mit Zugriff auf kritische Infrastrukturen; (c) KI-gestützter biologischer Entwicklung und Experimentierung; (d) quantenbedingten Gefährdungen kryptografischer Verfahren; und (e) Systemen, die zur autonomen Verbesserung, Replikation oder Ausbreitung befähigt sind.

6.4 · Verbindliche Sicherheitsmaßnahmen

Entwickler und Betreiber von Systemen der Risikoklassen III, IV und V haben dem bewerteten Risiko angemessene Schutzmaßnahmen umzusetzen. Dazu gehören, soweit erforderlich: (a) unabhängige Sicherheitsprüfungen; (b) Betriebsbeschränkungen und Zugangskontrollen; (c) kontinuierliche Überwachung und Anomalieerkennung; (d) sichere Protokollierung und Dokumentation von Zwischenfällen; (e) Eindämmungs- und Wiederherstellungsverfahren; und (f) wirksame Mechanismen zur Aussetzung oder sicheren Beendigung des Betriebs.

6.5 · Behördliche Eingriffsbefugnisse in Notfällen

Wenn glaubhafte und hinreichend belegte Erkenntnisse auf eine unmittelbar drohende Gefahr katastrophaler Schäden hinweisen, dürfen zuständige nationale Behörden innerhalb ihrer gesetzlichen Zuständigkeit vorübergehende Beschränkungen, Betriebsaussetzungen oder kontrollierte Abschaltungen anordnen. Diese Maßnahmen müssen erforderlich, verhältnismäßig, dokumentiert und unabhängig überprüfbar sein.

6.6 · Menschliche Kontrolle und Intervention

Autonome Systeme mit erheblichen Auswirkungen müssen über wirksame menschliche Aufsichts- und Eingriffsmöglichkeiten verfügen, die ihrem Einsatzbereich und ihren Risiken entsprechen. Ist ein unmittelbarer menschlicher Eingriff technisch nicht durchführbar, sind gleichwertige, unabhängig validierte Schutzmaßnahmen erforderlich.

6.7 · Internationale Notfallkoordination

Teilnehmende Staaten haben sichere Kommunikationskanäle und gemeinsame Reaktionsverfahren für technologische Zwischenfälle mit erheblichen grenzüberschreitenden Folgen einzurichten. Die Koordination umfasst relevante wissenschaftliche Einrichtungen, Cybersicherheitsbehörden, Katastrophenschutzorganisationen und andere zuständige Stellen.

6.8 · Schutz kritischer Infrastrukturen

Fortgeschrittene technologische Systeme, die Energieversorgung, Kommunikation, Gesundheitswesen, Wasserversorgung, Verkehr, Finanzstabilität oder strategische Sicherheit beeinflussen, unterliegen erhöhten Anforderungen an Widerstandsfähigkeit und Betriebskontinuität.

6.9 · Meldung und Untersuchung von Zwischenfällen

Schwerwiegende technologische Zwischenfälle sind den zuständigen Behörden innerhalb festgelegter Fristen zu melden. Die Berichte müssen bekannte Ursachen, Folgen, Korrekturmaßnahmen und wesentliche Unsicherheiten dokumentieren. Eine unabhängige Untersuchung ist erforderlich, wenn Zwischenfälle auf systemische Fehler oder glaubhafte katastrophale Risiken hinweisen.

6.10 · Wiederherstellung und Schadensbehebung

Staaten und verantwortliche Betreiber haben angemessene Wiederherstellungs- und Schadensbehebungspläne vorzuhalten, die technologische Ausfälle, sich fortpflanzende Störungen und vorhersehbare langfristige Folgen berücksichtigen.

6.11 · Schutz vor Missbrauch von Notstandsbefugnissen

Notfallmaßnahmen nach diesem Artikel dürfen nicht dazu verwendet werden, rechtmäßige wissenschaftliche Forschung zu unterdrücken, Grundrechte willkürlich einzuschränken oder eine zeitlich unbegrenzte technologische Überwachung einzurichten. Alle außerordentlichen Maßnahmen unterliegen rechtlicher Kontrolle, regelmäßiger Neubewertung und wirksamen Rechtsbehelfen.

6.12 · Wissenschaftliche Überprüfung und kontinuierliche Verbesserung

Präventionsmaßnahmen, Sicherheitsstandards und Notfallverfahren sind regelmäßig anhand wissenschaftlicher Entwicklungen, praktischer Erkenntnisse und der Erfahrungen aus technologischen Zwischenfällen zu überprüfen.

HPA / 07

Article 7 — Scientific Freedom, Responsible Innovation and Public Access

7.1 · Fundamental Principle of Scientific Freedom

Freedom of scientific research, academic inquiry and the pursuit of knowledge shall be recognized as fundamental principles of technological progress and human development. Restrictions on scientific activities shall require a legitimate legal basis and shall be necessary, proportionate and subject to independent review.

7.2 · Protection of Fundamental Research

States shall protect fundamental research in quantum physics, artificial intelligence, mathematics, biotechnology, neuroscience and related scientific disciplines. Research shall not be restricted solely because its findings may contribute to future technologies whose applications remain uncertain.

7.3 · Responsible Technological Innovation

Developers, researchers and institutions shall integrate appropriate safety considerations into the design, testing and deployment of advanced technologies. Safety obligations shall correspond to the capabilities, intended applications and reasonably foreseeable risks of the systems concerned.

7.4 · Public Access to Scientific Knowledge

States and publicly funded research institutions shall promote equitable access to scientific knowledge, educational resources and non-sensitive research findings. Restrictions on publication or dissemination shall be justified by demonstrable risks, legitimate confidentiality obligations or applicable legal protections.

7.5 · Prevention of Technological Monopolization

States shall seek to prevent unjustified concentration of technological power where such concentration threatens fundamental rights, scientific competition, democratic accountability or public access to essential technologies. Regulatory frameworks shall not create unnecessary barriers that disproportionately disadvantage independent researchers, nonprofit institutions or smaller scientific organizations.

7.6 · Open Science and Collaborative Research

International scientific collaboration, open research methodologies and responsible knowledge exchange shall be encouraged. Open publication or distribution of technologies presenting credible catastrophic risks may be subject to narrowly tailored safeguards established by law.

7.7 · Independent Scientific Participation

Qualified independent researchers and nonprofit scientific organizations shall have fair opportunities to participate in public consultations, scientific advisory processes and technological safety assessments. Participation criteria shall be transparent, competence-based and free from unjustified institutional discrimination.

7.8 · Protection Against Misuse of Safety Regulation

Technological safety requirements shall not be used as a pretext for: (a) suppression of legitimate scientific criticism; (b) arbitrary exclusion of independent researchers; (c) unjustified protection of commercial monopolies; (d) political censorship of scientific findings; (e) discriminatory restrictions on peaceful research.

7.9 · Equitable Global Participation

Participating States shall promote opportunities for developing countries and underrepresented scientific communities to participate in advanced technological research, education and international governance. Measures may include scientific partnerships, capacity-building programs, educational initiatives and responsible technology transfer.

7.10 · Intellectual Property and Public Interest

Intellectual property rights shall be respected in accordance with applicable law. States shall seek an appropriate balance between innovation incentives, legitimate commercial interests, scientific progress and access to technologies essential for public welfare.

7.11 · Responsible Communication of Technological Risks

Public communication concerning advanced technologies shall distinguish established scientific findings from uncertainties, plausible risk scenarios and speculative claims. Public authorities and scientific institutions shall promote accurate, transparent and evidence-based information.

7.12 · Periodic Review of Research Restrictions

Restrictions imposed on scientific research or technological dissemination shall be periodically reviewed. Measures that are no longer necessary or proportionate shall be modified or withdrawn without undue delay.

Artikel 7 — Wissenschaftsfreiheit, verantwortungsvolle Innovation und öffentlicher Zugang

7.1 · Grundprinzip der Wissenschaftsfreiheit

Die Freiheit wissenschaftlicher Forschung, akademischer Erkenntnissuche und des Wissenserwerbs ist als grundlegendes Prinzip des technologischen Fortschritts und der menschlichen Entwicklung anzuerkennen. Einschränkungen wissenschaftlicher Tätigkeiten bedürfen einer legitimen gesetzlichen Grundlage und müssen erforderlich, verhältnismäßig und unabhängig überprüfbar sein.

7.2 · Schutz der Grundlagenforschung

Staaten haben die Grundlagenforschung in Quantenphysik, künstlicher Intelligenz, Mathematik, Biotechnologie, Neurowissenschaften und verwandten wissenschaftlichen Disziplinen zu schützen. Forschung darf nicht allein deshalb eingeschränkt werden, weil ihre Erkenntnisse zu zukünftigen Technologien beitragen könnten, deren Anwendungen noch ungewiss sind.

7.3 · Verantwortungsvolle technologische Innovation

Entwickler, Forschende und Institutionen haben angemessene Sicherheitsaspekte in die Entwicklung, Prüfung und Anwendung fortgeschrittener Technologien einzubeziehen. Sicherheitsverpflichtungen müssen den Fähigkeiten, vorgesehenen Anwendungen und vernünftigerweise vorhersehbaren Risiken der betreffenden Systeme entsprechen.

7.4 · Öffentlicher Zugang zu wissenschaftlichem Wissen

Staaten und öffentlich finanzierte Forschungseinrichtungen haben einen gerechten Zugang zu wissenschaftlichem Wissen, Bildungsressourcen und nicht sicherheitskritischen Forschungsergebnissen zu fördern. Einschränkungen der Veröffentlichung oder Verbreitung müssen durch nachweisbare Risiken, berechtigte Geheimhaltungspflichten oder geltende rechtliche Schutzbestimmungen gerechtfertigt sein.

7.5 · Verhinderung technologischer Monopolisierung

Staaten sollen eine ungerechtfertigte Konzentration technologischer Macht verhindern, wenn diese Grundrechte, wissenschaftlichen Wettbewerb, demokratische Verantwortlichkeit oder den öffentlichen Zugang zu wesentlichen Technologien gefährdet. Regulierungsrahmen dürfen keine unnötigen Hindernisse schaffen, die unabhängige Forschende, gemeinnützige Einrichtungen oder kleinere wissenschaftliche Organisationen unverhältnismäßig benachteiligen.

7.6 · Offene Wissenschaft und gemeinschaftliche Forschung

Internationale wissenschaftliche Zusammenarbeit, offene Forschungsmethoden und verantwortungsvoller Wissensaustausch sind zu fördern. Die offene Veröffentlichung oder Verbreitung von Technologien mit glaubhaft belegten katastrophalen Risiken kann eng begrenzten, gesetzlich festgelegten Schutzmaßnahmen unterliegen.

7.7 · Beteiligung unabhängiger Wissenschaftler

Qualifizierte unabhängige Forschende und gemeinnützige wissenschaftliche Organisationen müssen faire Möglichkeiten erhalten, an öffentlichen Konsultationen, wissenschaftlichen Beratungsverfahren und technologischen Sicherheitsbewertungen mitzuwirken. Teilnahmebedingungen müssen transparent, kompetenzorientiert und frei von ungerechtfertigter institutioneller Diskriminierung sein.

7.8 · Schutz vor Missbrauch der Sicherheitsregulierung

Technologische Sicherheitsanforderungen dürfen nicht als Vorwand verwendet werden für: (a) die Unterdrückung berechtigter wissenschaftlicher Kritik; (b) den willkürlichen Ausschluss unabhängiger Forschender; (c) den ungerechtfertigten Schutz kommerzieller Monopole; (d) die politische Zensur wissenschaftlicher Erkenntnisse; (e) diskriminierende Beschränkungen friedlicher Forschung.

7.9 · Gerechte internationale Beteiligung

Teilnehmende Staaten haben Möglichkeiten für Entwicklungsländer und unterrepräsentierte wissenschaftliche Gemeinschaften zu fördern, an fortgeschrittener technologischer Forschung, Bildung und internationaler Regulierung mitzuwirken. Maßnahmen können wissenschaftliche Partnerschaften, Programme zum Kompetenzaufbau, Bildungsinitiativen und verantwortungsvollen Technologietransfer umfassen.

7.10 · Geistiges Eigentum und öffentliches Interesse

Rechte des geistigen Eigentums sind im Einklang mit geltendem Recht zu achten. Staaten sollen einen angemessenen Ausgleich zwischen Innovationsanreizen, berechtigten wirtschaftlichen Interessen, wissenschaftlichem Fortschritt und dem Zugang zu Technologien schaffen, die für das Gemeinwohl wesentlich sind.

7.11 · Verantwortungsvolle Kommunikation technologischer Risiken

Die öffentliche Kommunikation über fortgeschrittene Technologien muss zwischen gesicherten wissenschaftlichen Erkenntnissen, Unsicherheiten, plausiblen Risikoszenarien und spekulativen Behauptungen unterscheiden. Behörden und wissenschaftliche Einrichtungen haben sachliche, transparente und evidenzbasierte Informationen zu fördern.

7.12 · Regelmäßige Überprüfung von Forschungsbeschränkungen

Beschränkungen wissenschaftlicher Forschung oder technologischer Verbreitung sind regelmäßig zu überprüfen. Maßnahmen, die nicht mehr erforderlich oder verhältnismäßig sind, müssen ohne unangemessene Verzögerung geändert oder aufgehoben.

HPA / 08

Article 8 — Protection of Humanity Against Technological Domination and Loss of Control

8.1 · Principle of Human Sovereignty

Humanity shall retain ultimate authority over decisions affecting its collective survival, fundamental rights, democratic institutions and long-term development. No artificial or autonomous technological system shall be granted independent sovereign authority over human populations or public institutions.

8.2 · Prohibition of Irreversible Transfer of Human Authority

States and responsible organizations shall not knowingly establish technological arrangements that irreversibly transfer essential human decision-making authority to autonomous systems without effective legal accountability, oversight and means of intervention.

8.3 · Control of Artificial Superintelligence

Artificial Superintelligence systems capable of substantially influencing critical societal functions shall be subject to enhanced independent evaluation and legally defined operational restrictions. Deployment shall require credible evidence that the relevant risks are adequately controlled. Claims of safety shall be supported by documented testing and independent assessment rather than unsupported assurances.

8.4 · Prevention of Uncontrolled Self-Improvement

Autonomous systems capable of modifying their own architecture, objectives, operational permissions or critical capabilities shall be subject to safeguards proportionate to the risks of such modifications. Self-modification presenting credible catastrophic risks shall not proceed without prior independent safety assessment and legally required authorization.

8.5 · Restrictions on Autonomous Replication and Expansion

Technological systems shall not be permitted to replicate, acquire computational resources, establish independent operational infrastructure or expand their capabilities without effective authorization where such activities create unacceptable systemic or catastrophic risks.

8.6 · Protection of Democratic Institutions

Advanced technologies shall not be deployed for the purpose of unlawfully replacing, coercing or systematically undermining democratic institutions and legitimate public decision-making processes. Public authorities shall retain legally accountable control over the exercise of governmental powers.

8.7 · Prohibition of Autonomous Strategic Domination

No autonomous technological system shall be granted unrestricted operational authority over strategic weapons, nuclear command functions or other capabilities whose uncontrolled use could cause catastrophic harm. Meaningful human authorization and independently validated safeguards shall be required.

8.8 · Protection Against Technological Dependency

States shall assess and mitigate excessive dependence on technological systems where their failure, withdrawal or manipulation could seriously impair essential societal functions. Appropriate continuity measures, alternative operating procedures and recovery capabilities shall be maintained.

8.9 · Safeguards Against Manipulation of Human Governance

Advanced technological systems shall not be used to covertly manipulate public institutions, electoral processes or collective decision-making through unlawful coercion, deception or systematic interference.

8.10 · Human Oversight and Effective Intervention

High-impact autonomous systems shall be designed and operated with oversight and intervention arrangements appropriate to their capabilities and foreseeable risks. Where direct intervention cannot reliably prevent serious harm, deployment shall depend on independently validated alternative safeguards and applicable legal authorization.

8.11 · Protection Against Concentration of Technological Power

States shall evaluate and address concentrations of technological control that create serious threats to democratic accountability, fundamental rights or the continuity of essential services. Measures shall respect competition law, legitimate property rights, scientific freedom and due process.

8.12 · International Assessment of Loss-of-Control Risks

Systems presenting credible pathways to catastrophic or existential loss of human control shall undergo enhanced international scientific assessment through mechanisms established under the Quantum, AI and Superintelligence Governance Act. Assessment shall address capabilities, autonomy, access to resources, potential failure modes and the effectiveness of containment measures.

8.13 · Prohibition of Unacceptable Loss-of-Control Risks

Deployment of a technological system shall be prohibited where credible and substantiated evidence demonstrates an unacceptable risk of irreversible loss of human control resulting in catastrophic or existential harm, and adequate safeguards cannot be established. Such determinations shall be subject to independent review and legally defined evidentiary standards.

8.14 · Protection of Future Human Self-Determination

States and competent institutions shall preserve the ability of future generations to determine their political, cultural, scientific and technological development. No technological system shall be deliberately deployed to establish irreversible domination over humanity or permanently eliminate meaningful human self-determination.

Artikel 8 — Schutz der Menschheit vor technologischer Fremdbestimmung und Kontrollverlust

8.1 · Grundsatz menschlicher Souveränität

Die Menschheit muss die letztverantwortliche Entscheidungsgewalt über Fragen ihres kollektiven Überlebens, ihrer Grundrechte, demokratischen Institutionen und langfristigen Entwicklung behalten. Keinem künstlichen oder autonomen technologischen System darf eine eigenständige souveräne Herrschaftsgewalt über menschliche Bevölkerungen oder öffentliche Institutionen übertragen werden.

8.2 · Verbot irreversibler Übertragung menschlicher Entscheidungsgewalt

Staaten und verantwortliche Organisationen dürfen nicht wissentlich technologische Strukturen schaffen, durch die wesentliche menschliche Entscheidungsbefugnisse irreversibel auf autonome Systeme übertragen werden, ohne dass wirksame rechtliche Verantwortlichkeit, Aufsicht und Eingriffsmöglichkeiten bestehen.

8.3 · Kontrolle künstlicher Superintelligenz

Systeme künstlicher Superintelligenz, die wesentliche gesellschaftliche Funktionen erheblich beeinflussen können, müssen einer erweiterten unabhängigen Bewertung und gesetzlich festgelegten Betriebsbeschränkungen unterliegen. Ihr Einsatz setzt glaubhafte Nachweise voraus, dass die maßgeblichen Risiken ausreichend beherrscht werden. Sicherheitsbehauptungen müssen durch dokumentierte Prüfungen und unabhängige Bewertungen gestützt werden und dürfen nicht allein auf unbelegten Zusicherungen beruhen.

8.4 · Verhinderung unkontrollierter Selbstverbesserung

Autonome Systeme, die ihre eigene Architektur, Ziele, Betriebsberechtigungen oder wesentlichen Fähigkeiten verändern können, müssen Schutzmaßnahmen unterliegen, die den Risiken solcher Veränderungen entsprechen. Selbstveränderungen mit glaubhaft belegten katastrophalen Risiken dürfen ohne vorherige unabhängige Sicherheitsbewertung und gesetzlich erforderliche Genehmigung nicht durchgeführt werden.

8.5 · Beschränkungen autonomer Replikation und Expansion

Technologischen Systemen darf es nicht gestattet werden, sich ohne wirksame Genehmigung zu replizieren, Rechenressourcen zu erwerben, eigenständige Betriebsinfrastrukturen aufzubauen oder ihre Fähigkeiten auszuweiten, wenn dadurch unvertretbare systemische oder katastrophale Risiken entstehen.

8.6 · Schutz demokratischer Institutionen

Fortgeschrittene Technologien dürfen nicht zu dem Zweck eingesetzt werden, demokratische Institutionen und rechtmäßige öffentliche Entscheidungsverfahren rechtswidrig zu ersetzen, zu nötigen oder systematisch zu untergraben. Die Ausübung staatlicher Befugnisse muss unter rechtlich verantwortlicher öffentlicher Kontrolle verbleiben.

8.7 · Verbot autonomer strategischer Vorherrschaft

Keinem autonomen technologischen System darf uneingeschränkte operative Entscheidungsgewalt über strategische Waffen, nukleare Befehlsfunktionen oder andere Fähigkeiten übertragen werden, deren unkontrollierter Einsatz katastrophale Schäden verursachen könnte. Eine wirksame menschliche Autorisierung und unabhängig validierte Schutzmaßnahmen sind erforderlich.

8.8 · Schutz vor technologischer Abhängigkeit

Staaten haben übermäßige Abhängigkeiten von technologischen Systemen zu bewerten und zu begrenzen, wenn deren Ausfall, Entzug oder Manipulation wesentliche gesellschaftliche Funktionen schwerwiegend beeinträchtigen könnte. Geeignete Maßnahmen zur Betriebskontinuität, alternative Betriebsverfahren und Wiederherstellungsmöglichkeiten sind vorzuhalten.

8.9 · Schutz vor Manipulation menschlicher Regierungsführung

Fortgeschrittene technologische Systeme dürfen nicht dazu verwendet werden, öffentliche Institutionen, Wahlprozesse oder kollektive Entscheidungsverfahren durch rechtswidrige Nötigung, Täuschung oder systematische Eingriffe verdeckt zu manipulieren.

8.10 · Menschliche Aufsicht und wirksame Intervention

Autonome Systeme mit erheblichen Auswirkungen müssen mit Aufsichts- und Eingriffsmöglichkeiten entwickelt und betrieben werden, die ihren Fähigkeiten und vorhersehbaren Risiken entsprechen. Wenn unmittelbare Eingriffe schwerwiegende Schäden nicht zuverlässig verhindern können, setzt der Einsatz unabhängig validierte alternative Schutzmaßnahmen und die erforderliche gesetzliche Genehmigung voraus.

8.11 · Schutz vor Konzentration technologischer Macht

Staaten haben Konzentrationen technologischer Kontrolle zu bewerten und ihnen entgegenzuwirken, wenn dadurch schwerwiegende Gefahren für demokratische Verantwortlichkeit, Grundrechte oder die Kontinuität wesentlicher Dienstleistungen entstehen. Maßnahmen müssen Wettbewerbsrecht, berechtigte Eigentumsrechte, Wissenschaftsfreiheit und rechtsstaatliche Verfahren achten.

8.12 · Internationale Bewertung von Kontrollverlustrisiken

Systeme mit glaubhaften Gefährdungspfaden zu einem katastrophalen oder existenziellen Verlust menschlicher Kontrolle müssen einer erweiterten internationalen wissenschaftlichen Bewertung nach den Mechanismen des Quantum, AI and Superintelligence Governance Act unterzogen werden. Die Bewertung muss Fähigkeiten, Autonomie, Ressourcenzugriff, mögliche Fehlfunktionen und die Wirksamkeit von Eindämmungsmaßnahmen berücksichtigen.

8.13 · Verbot unvertretbarer Kontrollverlustrisiken

Der Einsatz eines technologischen Systems ist zu untersagen, wenn glaubhafte und hinreichend belegte Erkenntnisse ein unvertretbares Risiko eines irreversiblen menschlichen Kontrollverlusts mit katastrophalen oder existenziellen Folgen nachweisen und keine ausreichenden Schutzmaßnahmen geschaffen werden können. Solche Entscheidungen müssen unabhängig überprüfbar sein und auf gesetzlich festgelegten Beweismaßstäben beruhen.

8.14 · Schutz zukünftiger menschlicher Selbstbestimmung

Staaten und zuständige Institutionen haben die Fähigkeit zukünftiger Generationen zu bewahren, ihre politische, kulturelle, wissenschaftliche und technologische Entwicklung selbst zu bestimmen. Kein technologisches System darf absichtlich eingesetzt werden, um eine irreversible Herrschaft über die Menschheit zu errichten oder menschliche Selbstbestimmung dauerhaft zu beseitigen.

HPA / 09

Article 9 — International Cooperation, Equity and Protection of Future Generations

9.1 · Principle of Shared Human Responsibility

States and competent international institutions shall recognize the prevention of catastrophic and existential technological harm as a matter of shared international concern. Cooperation under this Article shall respect international law, human rights, national sovereignty and the principle of peaceful scientific development.

9.2 · International Scientific Cooperation

Participating States shall promote cooperation in technological safety research, risk assessment, incident prevention and the development of interoperable safety standards. Such cooperation shall include appropriate participation by universities, independent researchers, nonprofit organizations and relevant scientific institutions.

9.3 · Equitable Participation in Technological Governance

International technological governance shall provide fair and meaningful opportunities for participation by States with differing levels of scientific, technological and economic development. Decision-making procedures shall be transparent and shall seek to prevent disproportionate influence by individual States or private entities.

9.4 · Protection Against Unequal Distribution of Technological Risks

States and responsible organizations shall assess whether the development or deployment of advanced technologies disproportionately exposes vulnerable populations or less technologically developed regions to serious harm. Where such risks are identified, proportionate preventive and corrective measures shall be implemented.

9.5 · Responsible Technology Transfer

International cooperation shall promote responsible access to beneficial technologies, scientific education and technical expertise. Technology transfer shall be subject to appropriate safeguards against foreseeable misuse, proliferation and catastrophic harm.

9.6 · International Technological Safety Assistance

Participating States should establish cooperative mechanisms to assist countries lacking sufficient resources to assess or manage advanced technological risks. Assistance may include technical training, scientific infrastructure, independent evaluation capacity and emergency-response support.

9.7 · Protection of Future Generations

States and competent institutions shall consider the reasonably foreseeable long-term consequences of advanced technological development for future generations. Particular attention shall be given to irreversible environmental damage, loss of human autonomy, systemic technological dependency and catastrophic or existential risks.

9.8 · Intergenerational Impact Assessment

Technological projects presenting credible risks of irreversible, large-scale harm shall undergo proportionate long-term impact assessment. Such assessments shall identify scientific uncertainties, plausible future consequences and available alternatives.

9.9 · Preservation of Human Knowledge and Institutional Resilience

Participating States shall promote the preservation of essential scientific knowledge, cultural heritage and institutional capabilities necessary for recovery from major technological disruptions. Appropriate measures may include secure archives, resilient infrastructure and independently maintained recovery procedures.

9.10 · Prevention of Technological Exploitation

Advanced technologies shall not be deployed for unlawful exploitation, coercive dependency or systematic deprivation of fundamental rights. International cooperation shall seek to prevent practices that transfer serious technological risks to populations lacking effective legal protection.

9.11 · Peaceful Resolution of Technological Disputes

Disputes arising from the interpretation or implementation of this Act shall, wherever possible, be resolved through peaceful means, including consultation, negotiation, mediation, arbitration or judicial settlement, subject to the consent and applicable obligations of the parties concerned.

9.12 · Periodic International Review

Participating States shall periodically review the effectiveness, fairness and long-term consequences of international technological safety arrangements. Reviews shall consider scientific developments, emerging risks, implementation experience and the interests of future generations.

Artikel 9 — Internationale Zusammenarbeit, Gerechtigkeit und Schutz zukünftiger Generationen

9.1 · Grundsatz gemeinsamer menschlicher Verantwortung

Staaten und zuständige internationale Institutionen haben die Verhinderung katastrophaler und existenzieller technologischer Schäden als Angelegenheit gemeinsamen internationalen Interesses anzuerkennen. Die Zusammenarbeit nach diesem Artikel muss das Völkerrecht, die Menschenrechte, die staatliche Souveränität und den Grundsatz friedlicher wissenschaftlicher Entwicklung achten.

9.2 · Internationale wissenschaftliche Zusammenarbeit

Teilnehmende Staaten haben die Zusammenarbeit in der technologischen Sicherheitsforschung, Risikobewertung, Prävention von Zwischenfällen und Entwicklung miteinander vereinbarer Sicherheitsstandards zu fördern. Diese Zusammenarbeit soll Universitäten, unabhängige Forschende, gemeinnützige Organisationen und relevante wissenschaftliche Einrichtungen angemessen einbeziehen.

9.3 · Gerechte Beteiligung an technologischer Regulierung

Die internationale Regulierung fortgeschrittener Technologien muss Staaten mit unterschiedlichem wissenschaftlichem, technologischem und wirtschaftlichem Entwicklungsstand faire und wirksame Beteiligungsmöglichkeiten bieten. Entscheidungsverfahren müssen transparent sein und einer unverhältnismäßigen Einflussnahme einzelner Staaten oder privater Akteure entgegenwirken.

9.4 · Schutz vor ungleicher Verteilung technologischer Risiken

Staaten und verantwortliche Organisationen haben zu bewerten, ob Entwicklung oder Einsatz fortgeschrittener Technologien besonders schutzbedürftige Bevölkerungsgruppen oder technologisch weniger entwickelte Regionen unverhältnismäßig schweren Gefahren aussetzen. Werden solche Risiken festgestellt, sind angemessene vorbeugende und korrigierende Maßnahmen umzusetzen.

9.5 · Verantwortungsbewusster Technologietransfer

Internationale Zusammenarbeit soll einen verantwortungsvollen Zugang zu nützlichen Technologien, wissenschaftlicher Bildung und technischem Fachwissen fördern. Der Technologietransfer muss angemessenen Schutzmaßnahmen gegen vorhersehbaren Missbrauch, unkontrollierte Verbreitung und katastrophale Schäden unterliegen.

9.6 · Internationale Unterstützung für technologische Sicherheit

Teilnehmende Staaten sollen gemeinsame Mechanismen einrichten, um Länder zu unterstützen, denen ausreichende Mittel zur Bewertung oder Bewältigung fortgeschrittener technologischer Risiken fehlen. Die Unterstützung kann technische Ausbildung, wissenschaftliche Infrastruktur, unabhängige Prüfungskapazitäten und Hilfe bei Notfallmaßnahmen umfassen.

9.7 · Schutz zukünftiger Generationen

Staaten und zuständige Institutionen haben die vernünftigerweise vorhersehbaren langfristigen Folgen fortgeschrittener technologischer Entwicklungen für zukünftige Generationen zu berücksichtigen. Besondere Aufmerksamkeit gilt irreversiblen Umweltschäden, dem Verlust menschlicher Autonomie, systemischer technologischer Abhängigkeit sowie katastrophalen oder existenziellen Risiken.

9.8 · Generationenübergreifende Folgenabschätzung

Technologische Projekte mit glaubhaften Risiken irreversibler, großflächiger Schäden müssen einer angemessenen langfristigen Folgenabschätzung unterzogen werden. Diese Bewertungen müssen wissenschaftliche Unsicherheiten, plausible zukünftige Folgen und verfügbare Alternativen aufzeigen.

9.9 · Bewahrung menschlichen Wissens und institutioneller Widerstandsfähigkeit

Teilnehmende Staaten haben die Bewahrung wesentlichen wissenschaftlichen Wissens, kulturellen Erbes und institutioneller Fähigkeiten zu fördern, die für die Erholung von schwerwiegenden technologischen Störungen erforderlich sind. Geeignete Maßnahmen können sichere Archive, widerstandsfähige Infrastrukturen und unabhängig vorgehaltene Wiederherstellungsverfahren umfassen.

9.10 · Verhinderung technologischer Ausbeutung

Fortgeschrittene Technologien dürfen nicht zur rechtswidrigen Ausbeutung, zur Erzwingung von Abhängigkeiten oder zum systematischen Entzug grundlegender Rechte eingesetzt werden. Internationale Zusammenarbeit soll verhindern, dass schwerwiegende technologische Risiken auf Bevölkerungsgruppen ohne wirksamen Rechtsschutz verlagert werden.

9.11 · Friedliche Beilegung technologischer Streitigkeiten

Streitigkeiten über die Auslegung oder Umsetzung dieses Gesetzes sollen nach Möglichkeit friedlich beigelegt werden, insbesondere durch Konsultation, Verhandlung, Vermittlung, Schiedsverfahren oder gerichtliche Entscheidung, vorbehaltlich der Zustimmung und geltenden Verpflichtungen der beteiligten Parteien.

9.12 · Regelmäßige internationale Überprüfung

Teilnehmende Staaten haben die Wirksamkeit, Gerechtigkeit und langfristigen Folgen internationaler Vereinbarungen zur technologischen Sicherheit regelmäßig zu überprüfen. Dabei sind wissenschaftliche Entwicklungen, neu entstehende Risiken, Erfahrungen bei der Umsetzung und die Interessen zukünftiger Generationen zu berücksichtigen.

HPA / 10

Article 10 — Implementation, Review and Final Provisions

10.1 · Legal Status and Adoption

This Act constitutes a proposed international model-law framework for the protection of humanity against serious risks arising from advanced technologies. It shall acquire binding legal effect only through valid adoption, incorporation into national law or an applicable international agreement, in accordance with the constitutional and legal requirements of the participating States.

10.2 · National Implementation

States adopting this Act shall establish or designate competent authorities responsible for implementing its provisions. National implementing measures shall specify institutional responsibilities, applicable procedures, enforcement powers, legal remedies and safeguards consistent with fundamental rights.

10.3 · Relationship to the Quantum, AI and Superintelligence Governance Act

This Act establishes overarching principles for the protection of humanity, human rights and long-term human self-determination. The proposed Quantum, AI and Superintelligence Governance Act (QASGA) may provide complementary technical and institutional rules concerning risk assessment, certification, auditing, operational controls and international cooperation. Neither instrument shall be interpreted as automatically conferring legal force upon the other.

10.4 · Implementation According to Risk and Capacity

Implementation requirements shall be proportionate to the severity of technological risks and the institutional capabilities of the States concerned. Transitional arrangements may be adopted where necessary, provided that they do not unjustifiably delay measures essential to prevent imminent catastrophic harm.

10.5 · International Coordination

Participating States may establish cooperative institutions, technical working groups and information-sharing mechanisms to support implementation. The International Humanity Protection Council proposed under Article 5 may perform advisory, coordinating or oversight functions only to the extent authorized by a valid legal instrument.

10.6 · Transparency and Public Accountability

Competent authorities shall publish accessible information on implementation, regulatory decisions and the effectiveness of protective measures, subject to lawful safeguards for privacy, security and legitimately confidential information.

10.7 · Independent Periodic Review

The effectiveness and proportionality of this Act shall be reviewed at intervals not exceeding five years following its adoption by a participating jurisdiction, or earlier where significant scientific or technological developments warrant reassessment. Reviews shall consider scientific evidence, technological capabilities, human rights impacts, implementation costs and the effectiveness of existing safeguards.

10.8 · Scientific and Public Consultation

Proposed substantial amendments shall be informed by appropriate consultation with independent scientific experts, civil society, affected communities and relevant public institutions. Consultation procedures shall be transparent and designed to avoid undue concentration of influence.

10.9 · Amendment Procedures

Amendments to this model-law text may be proposed through a transparent revision process established by its sponsoring initiative. Amendments to any binding national or international instrument based on this Act shall be governed exclusively by the applicable constitutional, legislative or treaty procedures.

10.10 · Protection of Fundamental Rights

Nothing in this Act shall be interpreted as authorizing arbitrary interference with fundamental human rights, scientific freedom, democratic governance or the rule of law. Any restriction imposed in pursuit of technological safety shall have a lawful basis and be necessary, proportionate and subject to effective review.

10.11 · Severability

Where a provision of this Act is found invalid or unenforceable within an adopting jurisdiction, the remaining provisions shall continue to apply to the extent permitted by the relevant legal system and consistent with the purpose of the adopting instrument.

10.12 · Final Principle

The development of advanced technologies shall remain directed toward the protection of human dignity, the preservation of human freedom, the prevention of catastrophic harm and the sustainable future of humanity. Technological progress shall serve humanity and shall not become a means of its irreversible subordination.

Artikel 10 — Umsetzung, Überprüfung und Schlussbestimmungen

10.1 · Rechtsstatus und Annahme

Dieses Gesetz stellt den Entwurf eines internationalen Modellrechtsrahmens zum Schutz der Menschheit vor schwerwiegenden Risiken fortgeschrittener Technologien dar. Rechtsverbindlichkeit entsteht ausschließlich durch eine wirksame Annahme, Übernahme in nationales Recht oder eine anwendbare internationale Vereinbarung nach Maßgabe der verfassungsrechtlichen und gesetzlichen Anforderungen der teilnehmenden Staaten.

10.2 · Nationale Umsetzung

Staaten, die dieses Gesetz übernehmen, haben zuständige Behörden für die Umsetzung seiner Bestimmungen einzurichten oder zu benennen. Nationale Umsetzungsmaßnahmen müssen institutionelle Zuständigkeiten, anwendbare Verfahren, Durchsetzungsbefugnisse, Rechtsbehelfe und grundrechtskonforme Schutzvorkehrungen festlegen.

10.3 · Verhältnis zum Quantum, AI and Superintelligence Governance Act

Dieses Gesetz legt übergeordnete Grundsätze zum Schutz der Menschheit, der Menschenrechte und der langfristigen menschlichen Selbstbestimmung fest. Der vorgeschlagene Quantum, AI and Superintelligence Governance Act (QASGA) kann ergänzende technische und institutionelle Regelungen zur Risikobewertung, Zertifizierung, Prüfung, Betriebskontrolle und internationalen Zusammenarbeit enthalten. Keines der beiden Regelwerke verleiht dem jeweils anderen automatisch Rechtsverbindlichkeit.

10.4 · Risiko- und kapazitätsgerechte Umsetzung

Die Anforderungen an die Umsetzung müssen der Schwere technologischer Risiken und den institutionellen Möglichkeiten der betreffenden Staaten angemessen sein. Erforderlichenfalls können Übergangsregelungen vorgesehen werden, sofern dadurch unverzichtbare Maßnahmen zur Abwehr unmittelbar drohender katastrophaler Schäden nicht ungerechtfertigt verzögert werden.

10.5 · Internationale Koordination

Teilnehmende Staaten können gemeinsame Institutionen, technische Arbeitsgruppen und Mechanismen zum Informationsaustausch einrichten, um die Umsetzung zu unterstützen. Der in Artikel 5 vorgeschlagene International Humanity Protection Council darf beratende, koordinierende oder überwachende Aufgaben nur insoweit wahrnehmen, wie diese durch ein wirksames Rechtsinstrument übertragen wurden.

10.6 · Transparenz und öffentliche Rechenschaftspflicht

Zuständige Behörden haben verständliche Informationen über die Umsetzung, regulatorische Entscheidungen und die Wirksamkeit von Schutzmaßnahmen zu veröffentlichen. Gesetzliche Schutzbestimmungen für Privatsphäre, Sicherheit und berechtigterweise vertrauliche Informationen bleiben unberührt.

10.7 · Unabhängige regelmäßige Überprüfung

Wirksamkeit und Verhältnismäßigkeit dieses Gesetzes sind spätestens alle fünf Jahre nach seiner Annahme durch einen teilnehmenden Rechtsraum zu überprüfen. Eine frühere Überprüfung ist vorzunehmen, wenn bedeutende wissenschaftliche oder technologische Entwicklungen dies erfordern. Die Überprüfung muss wissenschaftliche Erkenntnisse, technologische Fähigkeiten, Auswirkungen auf Menschenrechte, Umsetzungskosten und die Wirksamkeit bestehender Schutzmaßnahmen berücksichtigen.

10.8 · Wissenschaftliche und öffentliche Konsultation

Wesentliche Änderungsvorschläge sollen auf angemessenen Konsultationen mit unabhängigen wissenschaftlichen Fachleuten, der Zivilgesellschaft, betroffenen Gemeinschaften und zuständigen öffentlichen Institutionen beruhen. Die Konsultationsverfahren müssen transparent sein und einer unangemessenen Konzentration von Einfluss entgegenwirken.

10.9 · Änderungsverfahren

Änderungen dieses Modellgesetzes können im Rahmen eines transparenten Überarbeitungsverfahrens vorgeschlagen werden, das von der Trägerinitiative festgelegt wird. Änderungen verbindlicher nationaler oder internationaler Rechtsinstrumente, die auf diesem Gesetz beruhen, richten sich ausschließlich nach den jeweils geltenden verfassungsrechtlichen, gesetzgeberischen oder völkervertraglichen Verfahren.

10.10 · Schutz der Grundrechte

Keine Bestimmung dieses Gesetzes darf so ausgelegt werden, dass sie willkürliche Eingriffe in grundlegende Menschenrechte, Wissenschaftsfreiheit, demokratische Regierungsführung oder Rechtsstaatlichkeit gestattet. Jede zur technologischen Sicherheit vorgenommene Einschränkung muss auf einer gesetzlichen Grundlage beruhen, erforderlich und verhältnismäßig sowie wirksam überprüfbar sein.

10.11 · Fortgeltung der übrigen Bestimmungen

Wird eine Bestimmung dieses Gesetzes innerhalb eines Rechtsraums, der es übernommen hat, für unwirksam oder nicht durchsetzbar erklärt, bleiben die übrigen Bestimmungen insoweit anwendbar, wie das betreffende Rechtssystem dies zulässt und es mit dem Zweck des übernommenen Rechtsinstruments vereinbar ist.

10.12 · Abschließender Grundsatz

Die Entwicklung fortgeschrittener Technologien muss auf den Schutz der Menschenwürde, die Bewahrung menschlicher Freiheit, die Verhinderung katastrophaler Schäden und eine nachhaltige Zukunft der Menschheit ausgerichtet bleiben. Technologischer Fortschritt muss der Menschheit dienen und darf nicht zu einem Instrument ihrer irreversiblen Unterordnung werden.

HPA–QASGA / ANNEX

Joint Implementation Protocol (Approved Shared Annex)

Annex 1 · Competent authorities / Zuständige Behörden

Adopting jurisdictions shall publish a matrix identifying the competent authority, legal mandate and review procedure for each overlapping HPA and QASGA obligation. Neither international council may exercise binding powers absent express authorization by applicable law or a valid treaty.

Annex 2 · Incident reporting / Vorfallmeldungen

Where an event triggers notification under both instruments, adopting authorities shall establish a lawful coordinated reporting channel and promptly forward reports to all competent recipients. Coordination shall neither extend statutory deadlines nor reduce the information required or delay urgent protective action.

Annex 3 · Emergency measures / Notfallmaßnahmen

Compulsory emergency restrictions, suspension or shutdown may be ordered only by a legally empowered authority upon credible evidence of imminent serious harm. Measures shall be necessary, proportionate, documented, time-limited and promptly subject to independent review and effective judicial remedy. Overlapping authorities shall coordinate without delaying urgent action.

Annex 4 · Information sharing / Informationsaustausch

Cross-instrument or cross-border information transfers require an applicable legal basis and a defined, necessary purpose. Personal data, confidential technical information and security-sensitive materials shall be protected. Transfer protocols shall identify recipients, retention periods, access controls and legally required avenues of challenge. No extraterritorial enforcement power arises from this provision.

Annex 5 · Rights and review / Rechte und Rechtsschutz

Persons materially affected by coordinated decisions shall have access to reasons, an effective complaint process and independent administrative or judicial review, subject to lawful narrow confidentiality limits. Nothing in this Protocol diminishes existing rights or more protective obligations. It becomes binding only upon valid adoption by the competent legal authorities.

Gemeinsames Umsetzungsprotokoll (freigegebener gemeinsamer Anhang)

Annex 1 · Competent authorities / Zuständige Behörden

Übernehmende Rechtsordnungen veröffentlichen eine Matrix, die für jede sich überschneidende HPA- und QASGA-Pflicht die zuständige Behörde, ihre Rechtsgrundlage und das Überprüfungsverfahren ausweist. Keiner der internationalen Räte darf ohne ausdrückliche Ermächtigung durch geltendes Recht oder einen wirksamen Vertrag verbindliche Befugnisse ausüben.

Annex 2 · Incident reporting / Vorfallmeldungen

Löst ein Ereignis Meldepflichten nach beiden Instrumenten aus, richten die übernehmenden Behörden einen rechtmäßigen koordinierten Meldeweg ein und leiten Meldungen unverzüglich an alle zuständigen Empfänger weiter. Die Koordinierung darf weder gesetzliche Fristen verlängern noch erforderliche Angaben reduzieren oder dringende Schutzmaßnahmen verzögern.

Annex 3 · Emergency measures / Notfallmaßnahmen

Verbindliche Notfallbeschränkungen, Aussetzungen oder Abschaltungen dürfen nur von einer gesetzlich ermächtigten Behörde bei belastbaren Anhaltspunkten für unmittelbar drohende schwere Schäden angeordnet werden. Maßnahmen müssen erforderlich, verhältnismäßig, dokumentiert, befristet und unverzüglich unabhängig überprüfbar sowie wirksam gerichtlich anfechtbar sein. Behörden mit überschneidenden Zuständigkeiten koordinieren sich, ohne dringende Maßnahmen zu verzögern.

Annex 4 · Information sharing / Informationsaustausch

Instrumentenübergreifende oder grenzüberschreitende Informationsübermittlungen benötigen eine anwendbare Rechtsgrundlage und einen bestimmten erforderlichen Zweck. Personenbezogene Daten, vertrauliche technische Informationen und sicherheitsrelevante Unterlagen sind zu schützen. Übermittlungsregeln benennen Empfänger, Aufbewahrungsfristen, Zugriffskontrollen und gesetzlich erforderliche Rechtsbehelfe. Diese Bestimmung begründet keine extraterritoriale Vollzugsbefugnis.

Annex 5 · Rights and review / Rechte und Rechtsschutz

Von koordinierten Entscheidungen wesentlich betroffene Personen erhalten eine Begründung, ein wirksames Beschwerdeverfahren und eine unabhängige behördliche oder gerichtliche Überprüfung, vorbehaltlich gesetzmäßiger enger Vertraulichkeitsgrenzen. Dieses Protokoll mindert keine bestehenden Rechte oder weitergehenden Schutzpflichten. Es wird erst durch wirksame Übernahme durch die zuständigen Rechtsetzungsorgane verbindlich.

HumanityProtection Act.

Article 1 — Purpose, Scope and Fundamental Principles

1.1 · Purpose

1.2 · Scope of Application

1.3 · Fundamental Principles

1.4 · Non-Derogation and Safeguards

1.5 · Relationship to International and Domestic Law

Artikel 1 — Zweck, Anwendungsbereich und Grundprinzipien

1.1 · Zweck

1.2 · Anwendungsbereich

1.3 · Grundprinzipien

1.4 · Schutzklausel und rechtliche Sicherungen

1.5 · Verhältnis zum Völkerrecht und nationalen Recht

Article 2 — Definitions and Risk Classification

2.1 · Advanced Technologies

2.2 · Artificial Intelligence (AI)

2.3 · Artificial General Intelligence (AGI)

2.4 · Artificial Superintelligence (ASI)

2.5 · Quantum Technologies

2.6 · Autonomous High-Impact Systems

2.7 · Systemic Risk

2.8 · Catastrophic Risk

2.9 · Existential Risk

2.10 · Risk Classification: Classes I–V

2.11 · Evidence-Based Assessment

2.12 · Periodic Reassessment and Procedural Safeguards

Artikel 2 — Begriffsbestimmungen und Risikoklassifizierung

2.1 · Fortgeschrittene Technologien

2.2 · Künstliche Intelligenz (KI)

2.3 · Allgemeine künstliche Intelligenz (AGI)

2.4 · Künstliche Superintelligenz (ASI)

2.5 · Quantentechnologien

2.6 · Autonome Systeme mit erheblichen Auswirkungen

2.7 · Systemisches Risiko

2.8 · Katastrophales Risiko

2.9 · Existenzielles Risiko

2.10 · Risikoklassifizierung: Klassen I–V

2.11 · Evidenzbasierte Bewertung

2.12 · Regelmäßige Neubewertung und Verfahrensgarantien

Article 3 — Fundamental Human Rights and Prohibited Technological Practices

3.1 · Supremacy of Human Rights

3.2 · Right to Human Autonomy

3.3 · Cognitive and Mental Integrity

3.4 · Technological Discrimination

3.5 · Meaningful Human Review

3.6 · Prohibition of Mass Manipulation and Technological Oppression

3.7 · Protection Against Existential Threats

3.8 · Prohibition of Uncontrolled Autonomous Escalation

3.9 · Effective Remedy

3.10 · Protection of Future Generations

3.11 · Limitations and Safeguards

Artikel 3 — Grundrechte und verbotene technologische Praktiken

3.1 · Vorrang der Menschenrechte

3.2 · Recht auf menschliche Autonomie

3.3 · Kognitive und mentale Integrität

3.4 · Technologisches Diskriminierungsverbot

3.5 · Wirksame menschliche Überprüfung

3.6 · Verbot von Massenmanipulation und technologischer Unterdrückung

3.7 · Schutz vor existenziellen Bedrohungen

3.8 · Verbot unkontrollierter autonomer Eskalation

3.9 · Wirksame Rechtsbehelfe

3.10 · Schutz zukünftiger Generationen

3.11 · Grenzen und Schutzvorkehrungen

Article 4 — Duties of States, Corporations and Research Institutions

4.1 · General Duty of Care

4.2 · Obligations of States

4.3 · Developers and Providers

4.4 · Operators and Deployers

4.5 · Research Institutions

4.6 · Independent Safety Evaluation

4.7 · Whistleblower Protection

4.8 · Accountability and Liability

4.9 · International Cooperation

4.10 · Proportionality and Protection of Research

Artikel 4 — Pflichten von Staaten, Unternehmen und Forschungseinrichtungen

4.1 · Allgemeine Sorgfaltspflicht

4.2 · Pflichten der Staaten

4.3 · Entwickler und Anbieter

4.4 · Betreiber und einsetzende Stellen

4.5 · Forschungseinrichtungen

Humanity
Protection Act.