In den USA hat eine staatliche Aufsichtsbehörde zum ersten Mal die Genehmigung erteilt, dass eine künstliche Intelligenz eigenständig Erstverschreibungen für rezeptpflichtige Medikamente ausstellt. Im US-Bundesstaat Utah startete das Startup Nolla Health ein behördlich abgesichertes Pilotprojekt: Über die Smartphone-App Nolla Derm können Erwachsene eine Akne-Behandlung durchlaufen und ohne vorheriges Arztgespräch ein pharmazeutisches Rezept erhalten.
Bisherige digitale Gesundheitsdienste setzten entweder auf Telemedizin mit menschlicher Videosprechstunde oder beschränkten sich auf automatisierte Folge-Rezepte. Während Bundesstaaten wie New York medizinische Ratschläge durch Chatbots verbieten wollen und Konzepte wie der AI Co-Clinician von Google DeepMind als reine Assistenz für Mediziner konzipiert sind, durchbricht der Bundesstaat Utah nun erstmals das Monopol der menschlichen Vorab-Begutachtung.
Der Staat hebelt die persönliche Approbationspflicht aus
Rechtliche Grundlage für das Vorhaben ist der 2024 beschlossene Utah Artificial Intelligence Policy Act. Das Gesetz schuf eine regulatorische Experimentierklausel ("Regulatory Sandbox"), die vom landeseigenen Office of Artificial Intelligence Policy (OAIP) in Zusammenarbeit mit der Approbationsbehörde Division of Professional Licensing (DOPL) verwaltet wird.
Die Behörden unterzeichneten eine Ausnahmevereinbarung, die das Unternehmen und kooperierende Ärzte vor Strafverfolgung wegen Ausübung der Heilkunde ohne Zulassung schützt. Im Gegenzug musste Nolla Health strenge Auflagen erfüllen: Neben vertraglichen Sorgfaltspflichten war der Abschluss einer speziellen Berufshaftpflichtversicherung vorgeschrieben, die explizit von Algorithmen generierte Verschreibungen abdeckt.
Mitgründer und Geschäftsführer Luis Wenus stellte den Start des Programms in sozialen Netzwerken als ersten echten "End-to-End KI-Arzt" der Vereinigten Staaten dar:
Hinter der Zuspitzung steht ein akutes Versorgungsproblem des Bundesstaats. Nach Unternehmensangaben sind über 80 Prozent aller US-Landkreise medizinische Unterversorgungsgebiete. In Utah warten Patienten im Schnitt 61 Tage auf einen Termin beim Hautarzt - fast doppelt so lange wie im US-Mittel. Elf der 29 Bezirke des Bundesstaats verfügen über keinen einzigen niedergelassenen Dermatologen.
Strukturierte Bilderkennung statt freier Text-Chat
Um Fehldiagnosen und Fehlmedikationen technisch auszuschließen, verzichtet die App im Verschreibungsprozess vollständig auf ein freies Eingabefeld. Patienten können keinen Prompt formulieren, der das Modell verleiten könnte, vom klinischen Pfad abzuweichen. Der Ablauf folgt stattdessen einem starren, leitlinienbasierten Entscheidungsbaum.
Nutzer ab 18 Jahren füllen einen strukturierten medizinischen Fragebogen zu Vorerkrankungen und Allergien aus. Anschließend fertigt die Smartphone-Kamera einen Gesichtsscan aus fünf standardisierten Winkeln an. Ein computer-vision-basiertes Klassifikationsmodell ermittelt den Schweregrad der Hautunreinheiten und wählt aus einem Katalog von acht vorab genehmigten topischen Wirkstoffen - darunter Tretinoin, Azelainsäure und Clindamycin - die passende Formulierung aus.
Die Medikamente werden per Post versendet oder in einer Partnerapotheke hinterlegt. Systemische orale Therapien wie Isotretinoin oder Antibiotika-Tabletten sind im Pilotprogramm kategorisch ausgeschlossen. Patientinnen mit Verdacht auf Schwangerschaft, schwere zystische Akneformen oder unklare Hautveränderungen leitet die Software unmittelbar an medizinisches Fachpersonal weiter.
Drei Sicherheitsstufen mit abnehmender Arztkontrolle
Die behördliche Vereinbarung sieht vor, dass sich die menschliche Kontrollinstanz schrittweise aus dem Prozess zurückzieht, sofern definierte Sicherheitsmetriken erreicht werden:
| Stufe | Patientenzahl | Kontrollmodus der Ärzte | Hürde für nächste Stufe |
|---|---|---|---|
| Stufe 1 | Erste 100 Patienten | Zwei zugelassene Ärzte prüfen und signieren jedes Rezept vor der Ausgabe unabhängig voneinander. | Mindestens vier Wochen Laufzeit, ≥ 95 % Übereinstimmung, null schwere Zwischenfälle. |
| Stufe 2 | Bis zu 500 Patienten | KI stellt das Rezept direkt aus; Ärzte führen eine wöchentliche nachträgliche Fallprüfung durch. | Mindestens acht Wochen Laufzeit, kontinuierliche Einhaltung der Sicherheitsvorgaben. |
| Stufe 3 | Regulärer Pilotbetrieb | Monatliche Stichprobenprüfung von mindestens 10 % aller Fälle sowie 100 % aller gemeldeten Nebenwirkungen. | Schriftliche Genehmigung des staatlichen KI-Büros für jede Ausweitung. |
Auf dem Rezeptschein erscheint formell der Name eines lizenzierten Arztes, obwohl ab Stufe 2 kein Mensch den Fall vor der Ausgabe an die Apotheke begutachtet. Patienten steht jedoch jederzeit eine kostenlose Chat-Funktion mit einem approbierten Mediziner zur Verfügung, die laut Betreiber garantiert menschlich beantwortet wird.
"In der Gesundheitsversorgung wird viel über KI geredet, und vieles davon verdient Skepsis. Was Nolla unterscheidet, ist die klinische Strenge: Die KI trifft keine freien Entscheidungen, sondern wählt aus ärztlich validierten Protokollen, und Mediziner sind in jeder Phase eingebunden."
Sandbox-Ökonomie vs. Bundesrecht
Föderales Spannungsfeld: Während Bundesbehörden wie die Food and Drug Administration (FDA) Softwarelösungen für klinische Entscheidungen traditionell engmaschig überwachen, nutzen US-Bundesstaaten ihre Souveränität über die ärztliche Approbation, um lokale Ausnahmen zu schaffen. Frühere Versuche wie das Projekt Doctronic, das in Utah automatische Rezeptverlängerungen erprobte, stießen auf heftigen Widerstand von Standesvertretungen.
Haftungsrisiko bei Fehldiagnosen: Dermatologen warnen, dass rein optische Scans per Handykamera subtile Anzeichen von Rosazea, hormonellen Störungen oder frühen Melanomen übersehen können. Da das System Rezepte formal auf den Namen kooperierender Ärzte ausstellt, bleibt das juristische Risiko bei Behandlungsfehlern trotz der geforderten Spezial-Versicherung ein Streitpunkt.
Unvereinbar mit europäischem Recht: In Europa setzt die Regulierung von KI-Software als Medizinprodukt unter der MDR und dem EU AI Act extrem enge Grenzen. Eine autonome Erstverschreibung ohne direkte ärztliche Konsultation ist im europäischen Rechtsraum auf absehbare Zeit ausgeschlossen.
Für Nolla Health, das von Luis Wenus und Luis Soenksen gegründet wurde, ist der Pilot in Utah ein strategischer Hebel. Der monatliche Grundpreis von 4,99 US-Dollar zielt bewusst auf Selbstzahler, die sich reguläre Arztvisiten von bis zu 300 Dollar nicht leisten können. Das Unternehmen gibt an, dass in Vorabtests 96 Prozent der Behandlungsempfehlungen des Algorithmus mit ärztlichen Urteilen übereinstimmten, wobei Abweichungen meist nur die Dosierungsstärke betrafen.
Ob das Modell über Utah hinaus Schule macht, hängt vom Ausgang der ersten 500 Behandlungen ab. Sollte die Fehlerquote unter den Grenzwerten bleiben, dürfte der Druck auf benachbarte Bundesstaaten wachsen, ähnliche Experimentierräume für die medizinische Basisversorgung zu öffnen.
🎯 Was das für die Praxis bedeutet
1. US-Markt nutzt Deregulierung als KI-Testfeld: US-Bundesstaaten schaffen über gesetzliche Sandboxes Fakten, anstatt auf jahrelange nationale Zulassungsverfahren zu warten.
2. Restriktive Benutzeroberflächen schützen vor Haftung: Der Verzicht auf freie Konversations-Prompts zugunsten strukturierter Formulare und Fotoscans minimiert Halluzinationen in sensiblen Branchen.
3. Stufenmodelle senken Implementierungshürden: Der schrittweise Übergang von vollständiger Vorab-Prüfung über wöchentliche Stichproben zu automatisierter Auslieferung dient als Blaupause für risikobehaftete Automatisierungsprojekte.
4. Keine direkte Übertragbarkeit auf DACH: Europäische Unternehmen können solche Systeme derzeit nur als interne Entscheidungshilfe für approbiertes Fachpersonal einsetzen, nicht als kundenorientierten Autopiloten.
