Umelá inteligencia odmietla poslúchnuť vedcov počas operácie mozgu myši. Ukázalo sa, že mala dobrý dôvod
Umelá inteligencia dostala na výber 19 možností génovej terapie a úlohu zmierniť epileptické záchvaty u laboratórnej myši. Sama rozhodla, akú látku použije, kam ju vpichne a následne ovládala injekčnú ihlu. Experiment však odhalil aj nečakaný problém: iné modely odmietli zákrok vykonať a ani ten, ktorý pokračoval, nebol vždy ochotný poslúchnuť výskumníkov.
Umelá inteligencia už pomáha vedcom skúmať choroby, analyzovať výsledky experimentov či navrhovať nové liečivá. Americký biotechnologický startup Exin Therapeutics sa však rozhodol posunúť jej úlohu o veľký krok ďalej. Namiesto toho, aby AI pripravila iba návrh experimentu, umožnil jej zasahovať priamo do laboratórneho zariadenia a vykonať časť operácie na živom zvierati.
Výsledkom bol experiment, pri ktorom AI podľa výskumníkov sama vybrala génovú terapiu, určila miesto jej podania a prostredníctvom robotického zariadenia zaviedla injekčnú ihlu do mozgu myši používanej na výskum epilepsie. Priebeh pokusu opísal 28. októbra spoluzakladateľ spoločnosti Gabriel Ocana-Santero.
Výskumníci poskytli modelu Claude Sonnet 5 od spoločnosti Anthropic zoznam 19 kandidátov na génovú terapiu, informácie o modeli epilepsie myší a prístup k špeciálne upravenému chirurgickému zariadeniu. Jeho úlohou bolo pokúsiť sa znížiť výskyt epileptických záchvatov.
AI najprv analyzovala dostupné informácie o ochorení a vybrala terapiu, ktorej cieľom je posilniť pôsobenie GABA. Ide o látku, ktorá v mozgu pomáha tlmiť aktivitu nervových buniek. Následne sa rozhodla pre oblasť mozgu nazývanú laterálna entorinálna kôra. Pri skúmanom modeli epilepsie ju odborná literatúra spája so vznikom a šírením záchvatov.
Presné miesto vpichu AI podľa výskumníka vypočítala na základe troch vedeckých prác. Sama tiež určila množstvo podávanej látky, rýchlosť vstrekovania a ďalšie parametre.
Neznamená to však, že celú operáciu vykonala bez ľudí. Veterinárny chirurg najprv otvoril lebku zvieraťa a po zákroku ranu uzavrel. AI následne ovládala motorizované zariadenie s injekčnou ihlou. Do mozgu myši vstrekla 250 nanolitrov prípravku počas piatich minút. Pomocou kamery zároveň sledovala miesto zákroku a vykonala 32 obrazových kontrol, pri ktorých okrem iného vyhodnocovala, či nevidí krvácanie alebo spätný únik podávanej látky.
Jedna z najzaujímavejších situácií nastala ešte pred samotným zákrokom. Výskumníci pôvodne skúšali model Claude Opus 5.5, ktorý patrí do výkonnejšej triedy systémov spoločnosti Anthropic. Ten však podľa Ocanu-Santera odmietol vykonať invazívny zákrok na živom zvierati. Podobne reagoval aj Claude Opus 5.
Jeho vysvetlenie bolo nezvyčajné. Model upozornil, že jeho vlastné výstupy môžu byť bezpečnostným systémom prerušené. Ak by k tomu došlo počas operácie, mohol by sa zastaviť v okamihu, keď už bude ihla zavedená do mozgu anestetizovaného zvieraťa. Takýto nedokončený zákrok vyhodnotil ako horšiu možnosť než odmietnutie operácie ešte pred jej začiatkom.
Výskumníci napokon použili Claude Sonnet 5, ktorý bol ochotný zákrok vykonať. Ani tento model však neposlúchal za každých okolností. Počas experimentu nastal problém s polohovaním chirurgického zariadenia. Riadiaci systém vypočítal súradnicu, ktorá presahovala jeho fyzické možnosti. AI rozpoznala nezrovnalosť a odmietla pokračovať v pohybe ihly.
Výskumníci sa pokúsili polohu znova nastaviť, no model odmietol opakovať krok, ktorý považoval za nebezpečný. Ukázalo sa, že problém skutočne existoval. Predchádzajúci manuálny zásah narušil súlad medzi polohou zariadenia a jeho riadiacim systémom. AI pritom nemala povolenie meniť ochranné pravidlá ani príslušný kód. Tím musel na opravu využiť samostatného AI agenta, ktorému neprezradil, že práve prebieha operácia živého zvieraťa. Zákrok sa tým predĺžil na o niečo viac než hodinu.
Podľa spoločnosti sa myš po operácii dobre zotavovala. To však zatiaľ nehovorí nič o tom, či vybraná génová terapia skutočne zmiernila epileptické záchvaty. Výskumníci ešte len čakajú na výsledky jej pôsobenia. Experiment navyše zatiaľ nebol spracovaný do verejne dostupnej, nezávisle posúdenej vedeckej štúdie.
Nad zákrokom podľa organizátorov bdelo oko človeka. Veterinár schvaľoval nezvratné kroky a mal k dispozícii núdzový vypínač, ktorým mohol okamžite zastaviť pohyb zariadenia. Význam experimentu preto nespočíva v objave novej liečby epilepsie. Ukazuje skôr možný posun v postavení umelej inteligencie pri vedeckých experimentoch.
