Anthropic lässt veri­fi­zierte Fachleute aus Biologie und Medizin auf Antrag alle Sicher­heits­schranken einzelner Projekte abschalten

Was das Programm ändert

Anthropic hat am 17. September das Life Sciences Verification Program (LSVP) vorgestellt. Über ein Antragsverfahren erhalten verifizierte Fachleute aus den Lebens­wis­sen­schaften Zugang zu den Modellen Mythos, Opus und Sonnet, mit Schutzmaßnahmen, die für biologiebezogene Arbeit durchlässiger sind als in den frei verfügbaren Fable-Modellen. Im Bericht heißt es dazu, das Programm „gives life science professionals access to our Mythos, Opus, and Sonnet models with a refined set of safeguards more permissive for biology-related work“. Vor dem offenen Start lief bereits eine frühe Phase, in der laut Anthropic Dutzende Organisationen angebunden wurden, jetzt öffnet sich die Bewerbung für die breitere Fachgemeinschaft. Der Start erfolgt in Beta und zunächst für Teams und Institutionen, einzelne Pro- und Max-Konten sollen nach und nach folgen.

Zwei Stufen statt einer Schranke

Wer sich verifizieren lässt, durchläuft eine Prüfung von For­schungs­nach­weisen, Sicher­heits­stan­dards und ethischer For­schungs­auf­sicht. Danach stehen zwei Arten von Freigaben offen. Standard Use deckt den größten Teil der Arbeit in den Lebens­wis­sen­schaften ab, von der Grund­la­gen­for­schung über Entwicklung, Lieferkette und Fertigung bis zu klinischer Entwicklung, Qua­li­täts­si­che­rung, Zulassungsfragen sowie Investitions- und Prüfungsarbeit. Diese Freigabe gilt für ein ganzes Team, wird einmal jährlich erneuert und greift für Mythos 5.1, Opus 5 und Sonnet 5 sowie für künftige Modelle.

High-risk Use setzt darüber an, für Arbeit, die unter Standard Use gesperrt bleibt. Diese Freigabe gilt laut Anthropic für ein einzelnes Forschungsprojekt, nicht für ein ganzes Team, muss alle sechs Monate erneuert werden und geht weiter als die Standard-Freigabe: Sie entfernt sämtliche Schranken, die Anfragen aus den Lebens­wis­sen­schaften blockieren, im Wortlaut des Berichts „removes all safeguards that block life sciences requests“. Als Beispiel nennt Anthropic ein Projekt, das untersucht, wie eine bestimmte Familie viraler Vektoren von menschlichen Immunwegen erkannt wird.

Die Grenze wandert vom Modell zum Antrag

Im August hatte Anthropic die Lockerung für Biologie-Anfragen noch als Eigenschaft des Modells selbst beschrieben, eine Schranke, die für alle Nutzer gleich verläuft und Virologie weiterhin ausklammert. Das LSVP verschiebt diese Grenze vom Modell auf den Antrag. Die Schranke war bislang eine feste Eigenschaft der frei verfügbaren Modelle, jetzt ist sie das Ergebnis einer Prüfung, die für ein einzelnes Projekt sämtliche Schutzmaßnahmen entfernen kann, solange Verifizierung und halbjährliche Erneuerung bestehen bleiben. Ob damit auch die im August benannte Sperre für virologische Fragen im Einzelfall fällt, sagt der Bericht nicht ausdrücklich. Das Beispiel mit den viralen Vektoren deutet in diese Richtung, denn es beschreibt genau die Art von Arbeit, die zuvor als gesperrt galt.

Offen: Ablehnungen, Aufsicht, Virologie

Wie viele der Antragstellenden aus der frühen Phase abgelehnt wurden, steht nicht im Text, ebenso wenig ein Zeitpunkt für den Zugang einzelner Pro- und Max-Konten außerhalb von Teams und Institutionen. Was die „ethical research oversight“ im Einzelnen prüft, wird nicht ausgeführt, und wer über strittige Fälle entscheidet, bleibt offen. Ob eine erteilte High-risk-Freigabe die im August benannte Sperre für virologische Anfragen tatsächlich aufhebt oder ob diese daneben fortbesteht, lässt sich aus der Ankündigung allein nicht ablesen.

Einordnung

Für Teams in Pharma, Medizin oder Biotechnik heißt das: Wie dasselbe Modell auf eine Fachfrage reagiert, hängt auch an der Freigabe des Zugangs. Eine Ablehnung im eigenen Zugang sagt dann wenig darüber, was das Modell in einem verifizierten Projekt leistet. Umgekehrt lassen sich Erfahrungen aus einem freigegebenen Projekt nicht auf den Standardzugang übertragen. Warum sich zwei Anwendungen mit demselben Modell verschieden verhalten können, erklärt Conversational AI, Kapitel 07 am Beispiel von Gesprächssystemen.