Генеральный директор Anthropic отвечает на вопросы о безопасности ИИ, подчеркивая важность передовых технологий

Anthropic подвергся критике за проект закона о безопасности ИИ, представленный членам Конгресса США. Проект устанавливает высокие барьеры для срочной остановки опасных моделей, требуя, чтобы риски касались биологического оружия, кибератак или неконтролируемого ИИ, что может привести к более чем 50 смертям или серьезным травмам, или к убыткам более 1 миллиарда долларов. Некоторые положения могут ограничить полномочия государственных органов. Натан Кальвин, стратегический директор организации по безопасности ИИ Encode AI, отметил, что в феврале этого года Anthropic изменил свою изначально строгую политику безопасности, отменив требование о самостоятельной остановке разработки на более высоких рисковых этапах, ссылаясь на то, что конкуренты могут воспользоваться этим и обойти компанию. В то же время Anthropic вложил огромные вычислительные мощности, создал команду по разработке чипов и поручил Claude больше задач по разработке ИИ. 21 октября генеральный директор Anthropic Дарио Амодеи опубликовал пост в X, чтобы опровергнуть критику, признав, что компания допустила ошибки, но настаивая на том, что стремление к самым современным возможностям ИИ не противоречит миссии безопасности, подчеркивая, что только оставаясь на переднем крае технологий, можно повысить стандарты безопасности в отрасли. Он перечислил девять решений по безопасности, которые стоили компании коммерческих убытков, включая ограничение открытого доступа к моделям уровня Mythos на несколько месяцев и строгие ограничения на запросы, связанные с биологией. Обновленная 19 октября дорожная карта безопасности компании заявляет, что существующая политика в основном направлена на развертывание опасных моделей, и в будущем может потребоваться прямое ограничение скорости разработки, с планами представить соответствующие политические предложения до 15 января 2027 года или объяснить, почему они не были предложены.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.