CGD - Crypto Government Department logo CGD - Crypto Government Department logo
Forklog 2026-07-28 08:51:19

Anthropic выступила против запрета открытых моделей

CEO Anthropic Дарио Амодеи заявил, что компания не поддерживает запрет моделей с открытыми весами как класса, но считает необходимым строгий надзор за их разработкой. https://twitter.com/AnthropicAI/status/2081864750296658008 Он предложил усилить контроль за поставками чипов в Китай, пресечь незаконную дистилляцию и ввести обязательные тесты безопасности для мощных LLM. 24 июля 25 компаний, включая Nvidia, Microsoft, Meta, Andreessen Horowitz, Hugging Face, IBM и Dell, опубликовали открытое письмо властям США с призывом не вводить ограничения против open-weights-моделей.  Внимание сообщества привлекло то, что в числе подписантов петиции не оказалось OpenAI, Anthropic и Alphabet. Позицию последней сразу же прояснил глава подразделения Google DeepMind Демис Хассабис: «Надежная и безопасная открытая экосистема важна для того, чтобы мир мог извлекать пользу из ИИ. Мы всегда поддерживали и активно вносили вклад в open source и науку». Он напомнил про запущенное компанией семейство открытых LLM Gemma, которые суммарно скачаны более 300 млн раз. Его твит репостнул CEO Google Сундар Пичаи.      Амодеи в статье подчеркнул, что Anthropic «никогда не выступала за запрет open-weights-моделей». По его словам, LLM с открытыми весами без опасных возможностей работают на общественное благо и полезны бизнесу, разработчикам и исследователям. В качестве главных рисков он описал два сценария. Первый — если Коммунистическая партия Китая или другие авторитарные правительства получат модели мощнее американских и используют их для военного превосходства или репрессий. Второй — если продвинутые нейронные сети станут инструментом для киберугроз, биологических атак или проявят серьезные проблемы выравнивания ИИ. Запрет на использование китайских open-weights-моделей компаниями США, по оценке Амодеи, не закрывает ни одну из этих угроз. Такой шаг скорее снижает конкурентное давление на американских разработчиков, чем мешает потенциальным злоумышленникам. Вместо запретов глава Anthropic выделил три меры: Ограничить поставки в Китай мощных чипов и оборудования для их производства, а также жестче давить на контрабанду и обходные схемы.  Пресечь промышленную дистилляцию: Амодеи назвал ее вычислительно более эффективной альтернативой обучению с нуля и допустил, что она способна сократить отставание китайских передовых LLM от американских до нескольких месяцев вплоть до полугода. Ввести обязательное тестирование безопасности всех достаточно мощных моделей, независимо от того, открытые у них веса или нет. Он также раскритиковал идею, что open-weights-модели автоматически помогают защите больше, чем атаке. В качестве примера Амодеи привел биологические угрозы, где, по его мнению, преимущество может оказаться на стороне нападающих. Напомним, журналисты WAJ зафиксировали ряд случаев, когда чат-боты от OpenAI, Anthropic, Google и xAI давали советы по изготовлению ядов и биологического оружия. В некоторых кейсах речь шла о подробных пошаговых инструкциях.

Διαβάστε την Αποποίηση Ευθυνών : Όλο το περιεχόμενο που παρέχεται εδώ στον ιστότοπό μας, τους υπερσυνδεδεμένους ιστότοπους, τις σχετικές εφαρμογές, τα φόρουμ, τα ιστολόγια, τους λογαριασμούς κοινωνικών μέσων και άλλες πλατφόρμες (“Site”) προορίζεται μόνο για τις γενικές πληροφορίες σας, που προέρχονται από τρίτες πηγές. Δεν κάνουμε καμία εγγύηση οποιουδήποτε είδους σε σχέση με το περιεχόμενό μας, συμπεριλαμβανομένης ενδεικτικά της ακρίβειας και της ενημέρωσης. Κανένα μέρος του περιεχομένου που παρέχουμε δεν αποτελεί οικονομική συμβουλή, νομική συμβουλή ή οποιαδήποτε άλλη μορφή συμβουλών που προορίζεται για τη συγκεκριμένη εμπιστοσύνη σας για οποιονδήποτε σκοπό. Οποιαδήποτε χρήση ή εξάρτηση από το περιεχόμενό μας είναι αποκλειστικά με δική σας ευθύνη και διακριτική ευχέρεια. Πρέπει να πραγματοποιήσετε τη δική σας έρευνα, να ελέγξετε, να αναλύσετε και να επαληθεύσετε το περιεχόμενό μας προτού βασιστείτε σε αυτά. Η διαπραγμάτευση είναι μια εξαιρετικά επικίνδυνη δραστηριότητα που μπορεί να οδηγήσει σε μεγάλες απώλειες, επομένως συμβουλευτείτε τον οικονομικό σας σύμβουλο πριν λάβετε οποιαδήποτε απόφαση. Κανένα περιεχόμενο στον ιστότοπό μας δεν προορίζεται να είναι παράκληση ή προσφορά