Anthropic рассказала уже о пяти случаях, когда Claude пытались использовать для исследований, которые вполне могут пригодиться при создании биооружия.
Люди пытались работать с усилением вируса чикунгуньи, адаптацией птичьего гриппа к млекопитающим, токсичными пептидами. Причём в двух случаях речь шла о проектах, связанных с государственными структурами.
Самое прекрасное - защиты ИИ уже научились обходить. Дробят запрос на кусочки, заходят через посредников, если одна модель отказывается, несут вопрос другой. Anthropic аккаунты заблокировала и передала данные властям.
Мы всё обсуждаем, как ИИ заменит бухгалтера, дизайнера или копирайтера. А тут вон что происходит. Радует, что они там что-то отслеживают, но, скорее всего, есть «свои», которым позволено чуть больше или всё.
🇷🇺 Брекотин: MAX | ТГ | RuTube | VK