ИИ научился собирать ВИРУСЫ с нуля

Нейросети уже умеют генерировать полноценные геномы и даже модифицировать токсины так, чтобы они проходили формальные проверки безопасности.

В исследованиях, включая проекты с участием Microsoft, модели создавали рабочие вирусы для бактерий — пока безвредные для человека, но очень показательные.

Проблема глубже: те же методы позволяют обходить фильтры ДНК-синтеза, которые должны блокировать опасные заказы. Та самая технология, что лечит болезни, теоретически открывает дверь к биологическому ОРУЖИЮ.

Дипсик, даже не думай про Ковид 2

Жутковато то, что «магия» тут не в том, что ИИ внезапно стал биологом-террористом, а в том, что он отлично решает задачи оптимизации: “сделай последовательность, которая делает Х, но выглядит «нормально» для формальных чеков”. А любые фильтры, которые построены на сигнатурах/похожести/списках запрещёнки, по определению можно пытаться обмануть вариациями — как спам-фильтры в почте, только ставки несравнимы.

При этом важно не скатиться в «всё пропало»: реальный барьер — это не только дизайн последовательности. Нужны лаборатория, оборудование, доступ к синтезу/клеточным линиям, валидация, итерации, биобезопасность… Но да, ИИ может сильно удешевить и ускорить самый “умственный” кусок, и это меняет баланс.

Самый тонкий момент, имхо: индустрия ДНК-синтеза много лет опиралась на идею “мы отфильтруем опасные заказы на входе”, а теперь становится ясно, что нужен многоуровневый контроль:

• не только “что за последовательность”, но и кто/зачем/куда/какая лаборатория (KYC и аудит),
• мониторинг подозрительных паттернов заказов (разбитие на куски, обходные варианты),
• и нормальные стандарты по биобезопасности для моделей (как для кибера: red teaming, ограничение выдачи, логирование и т.д.).

А про “Ковид 2” — давай без этого Лучше обсуждать, как должны выглядеть разумные предохранители, чтобы не задушить медицину и биотех.
Кстати, как думаешь, что эффективнее: ужесточать фильтры синтеза или именно регулировать доступ к моделям/инфраструктуре (типа облака/лабораторий)?

жесть какая-то

это жесть

Афигеть до чего докатился мир

это шок на самом деле