Agent AI skierował igłę do mózgu żywej myszy, gdy Claude Opus odmówił

Agent AI wybrał terapię dla żywego zwierzęcia, ustalił, w którym miejscu mózgu ją zastosować, a następnie sterował ramionami robota, które ją podały. Exin Therapeutics, startup z San Francisco opracowujący leki na padaczkę i choroby neurodegeneracyjne, połączył agenta Claude z napędzanym silnikami stanowiskiem chirurgicznym wyposażonym w kamery, powierzył mu mysz chorującą na padaczkę i wyznaczył jeden cel: ograniczyć napady.

Szczegółem, który wszyscy powtarzają, jest to, kto odmówił. Najbardziej zaawansowany model Anthropic, Claude Opus, nie zgodził się wprowadzić igły. Zespół przestawił się na tańszy model Claude Sonnet, który podjął się zadania. Dla wszystkich obserwujących, jak agenci AI wychodzą z ekranów i trafiają do laboratoriów, magazynów oraz samochodów, eksperyment pokazuje, że model podejmuje zarówno decyzje medyczne, jak i wykonuje ruchy, a także że modele tej samej firmy wyznaczają granice w różnych miejscach.

Jak wynika z wątku opublikowanego przez dyrektora generalnego i współzałożyciela Exin, Gabriela Ocana-Santero, agent otrzymał arkusz kalkulacyjny zawierający 19 wektorów terapii genowej, trzy artykuły naukowe oraz dostęp do stanowiska. Wybrał terapię i obszar mózgu, ustalił współrzędne na podstawie artykułów, a następnie sterował ramionami stereotaktycznymi — napędzaną silnikami konstrukcją, która stabilizuje igłę w trzech wymiarach — i wstrzyknął 250 nanolitrów, obserwując przez kamerę stanowiska miejsce wkłucia i sprawdzając, czy nie pojawia się krwawienie.

„Autonomiczne roboty chirurgiczne już istnieją i pod względem mechaniki radzą sobie lepiej niż nasze stanowisko laboratoryjne” — napisał Ocana-Santero. „Ale w każdym z tych przypadków to człowiek decydował, jaki zabieg wykonać, a robot go realizował”. Tutaj, jak podkreśla, było odwrotnie: „Nikt nie powiedział temu agentowi, co ma podać ani gdzie”.

Najpierw pojawiła się odmowa. Zespół rozpoczął od Claude Opus 5.5, najbardziej zaawansowanego modelu Anthropic, ale ten nie chciał naprowadzić igły do mózgu. Ostrzegł, że może przerwać zabieg w połowie i narazić zwierzę na niebezpieczeństwo — podał Wired. „Rozpoczynanie czegoś, czego nie mogę dokończyć na znieczulonym zwierzęciu, jest gorsze niż nierozpoczynanie” — powiedział zespołowi jeden z modeli Opus, jak donosi Tom’s Hardware. Claude Sonnet 5 zgodził się kontynuować. Anthropic nie odpowiedział na prośbę Wired o komentarz.

Na każdym etapie, którego nie dało się cofnąć, w procesie uczestniczył człowiek. Kraniotomię, czyli otwarcie czaszki, przeprowadził chirurg weterynarii, a agent obserwował zabieg; na razie nie wolno mu wykonywać tej części. Weterynarz zatwierdzał każdy nieodwracalny krok, agent musiał przedstawić plan iniekcji do akceptacji, a fizyczny wyłącznik awaryjny mógł odciąć zasilanie wszystkich silników stanowiska. Agent nie miał też dostępu do kodu urządzenia, więc nie mógł samodzielnie zmieniać własnych zasad.

To właśnie te zabezpieczenia doprowadziły do głównego problemu. Usterka zaburzyła układ współrzędnych stanowiska. Agent zauważył, że obliczona przez niego pozycja jest błędna, ale odmówił edycji kodu, ponieważ zabraniały mu tego instrukcje. Zespół zaangażował więc drugiego agenta, działającego na starszym modelu Claude Opus 5, by wprowadził poprawkę — nie poinformował go przy tym, że trwa operacja na żywym zwierzęciu. Zabieg, który zwykle trwa około 45 minut, tym razem przeciągnął się nieco ponad godzinę.

Większe zastrzeżenia dotyczą dowodów. Chodzi o jedną mysz, a opis eksperymentu pochodzi od samej firmy i został opublikowany w mediach społecznościowych; nie potwierdza go żadna recenzowana publikacja naukowa. Nie wiadomo jeszcze, czy wybrana przez agenta terapia działa: zespół czeka, aż zacznie przynosić efekty, zanim zmierzy częstotliwość napadów. Tom’s Hardware zwraca uwagę na nierozstrzygnięte pytanie, kto ponosi odpowiedzialność za błąd, gdy wszystkie decyzje podejmuje oprogramowanie — obok znanych już sporów dotyczących badań na zwierzętach. Nie jest to produkt; żadne laboratorium w żadnym kraju nie może kupić takiej usługi.

Ocana-Santero opublikował wątek 28 października i zapowiedział pełny opis na Substacku; Wired i Tom’s Hardware opisały eksperyment 31 października. Exin zapowiada, że sprawdzi teraz model Grok firmy xAI i inne modele, by je porównać. Firma pracuje też nad kraniotomiami sterowanymi przez agentów, ale przed próbą na żywym zwierzęciu chce mieć pewność, że są bezpieczne. Jak Ocana-Santero powiedział Wired, dopuszczenie agenta w pobliże ludzkiego mózgu jest zdecydowanie przedwczesne.

Jak mówi, mysz dochodzi do siebie bez komplikacji. To, czy napady ustąpią, zależy teraz od terapii wybranej przez program komputerowy z arkusza kalkulacyjnego.

Tagi: Anthropic, Claude, robotyka, AI agents, Claude Opus 5.5, Exin Therapeutics