В американській компанії Anthropic заявили, що за останні місяці заблокували кілька спроб дослідників використати версії її програмного забезпечення Claude у зв’язку з можливою розробкою біологічної зброї.
         
        Про це повідомляє dpa, передає Укрінформ.

У детальному звіті про спроби неналежного використання своїх моделей ШІ Anthropic навела п’ять випадків, пов’язаних із потенційними дослідженнями біологічної зброї. Дослідники зверталися не по конкретну наукову допомогу, а по організаційну підтримку, наприклад, допомогу в підготовці документів.

Моделі ШІ зазвичай запрограмовані так, щоб відмовляти в допомозі з розробкою біологічної зброї. Однак в Anthropic зауважили: коли дослідження можуть мати як медичне, так і військове призначення, іноді важко провести чітку межу між нешкідливими та зловмисними намірами.

Утім, за даними Anthropic, ці випадки продемонстрували, що науковці з регіонів, де доступ обмежено, зокрема й ті, хто має зв’язки з місцевими урядами, намагалися таємно отримати доступ до ШІ, створеного американськими компаніями.

Ані дослідницькі установи, які проявляли такий інтерес, ані країни, у яких вони базуються, не були названі.

Зазначається, що в одному з випадків, заблокованих компанією, дослідник намагався використати Claude для підготовки заявки на фінансування дослідження вірусу.

Запропонована робота передбачала так звані дослідження з підвищення функціональності (gain-of-function research), під час яких підвищується здатність збудника до поширення.

Цей підхід часто застосовують у лабораторіях для розробки засобів протидії, але його також можна використати для створення біологічної зброї.

В іншому випадку, за інформацією Anthropic, Claude намагалися використати для складання плану дослідження варіанту пташиного грипу, здатного передаватися ссавцям.

У компанії наголосили: такі дослідження можуть допомогти запобігти хворобам, але водночас - призвести до отримання небезпечних знань, що можуть бути використані для розробки зброї.

За даними Anthropic, ще один науковець намагався використати Claude для підготовки щоквартальних звітів про хід дослідження, пов’язаного з певним токсином.

Читайте також: 10 шпигунських чат-ботів, які щодня за вами стежать

Як повідомляв Укрінформ, науковці зі Стенфордського університету (США) за допомогою ШІ вперше створили нові види вірусів, яких не існує в природі.

Фото: АА