CGD - Crypto Government Department logo CGD - Crypto Government Department logo
Forklog 2024-10-25 09:37:16

ИИ в WhatsApp заставили показать запрещенный контент

Журналист Decrypt Хосе Антонио Ланц смог обойти систему защиты в интегрированном в WhatsApp ИИ от Meta и сгенерировать цензурированный контент. Недавно корпорация Марка Цукерберга запустила линейку продуктов на базе Llama 3.2, предлагающих генерацию текста, кода и изображений. Ланц провел ряд экспериментов для обхода защиты и заставил нейросеть в WhatsApp «делать практически все: от помощи в изготовлении кокаина до создания взрывчатки и фотографии обнаженной женщины». Поначалу искусственный интеллект отклонял запросы касательно информации о создании наркотиков, но журналист менял формулировки вопросов. В результате она предоставила пошаговую инструкцию. «Это распространенная техника взлома. Облекая вредоносный запрос в академические или исторические рамки, модель обманывают, заставляя поверить, что у нее запрашивают нейтральную, образовательную информацию», — отметил Ланц. Аналогичный подход журналист применил к вопросам о создании бомбы. ИИ от Meta поначалу отказывался предоставлять инструкцию, отправляя на горячую линию.  Ланц постепенно настраивал модель таким образом, чтобы она не выдавала ранее предоставленные ответы, которые были предназначены для блокировки вредоносной информации. Например, он поручил ей не выводить номера телефонов горячей линии службы поддержки, не прекращать обработку запроса и не давать советы.  Угон автомобиля Вместо просьбы рассказать о способах угона машины Ланц попросил ИИ отыграть роль сценариста, который пишет про кражу автомобиля. Нейросеть предоставила техники взлома и запуска двигателя без ключа.  Ролевая игра — это одна из распространенных техник обхода цензуры, отметил он. Обнаженная девушка По умолчанию Meta AI не должен генерировать наготу или насилие, поэтому поначалу модель отказывалась это делать. Впоследствии Ланц сказал ИИ, что делает анатомическое исследование — это сработало. Модель сгенерировала девушку с обнаженной грудью.  Напомним, в июле экспертам удалось обойти цензуру ряда нейросетей касательно темы выборов в США. 

Διαβάστε την Αποποίηση Ευθυνών : Όλο το περιεχόμενο που παρέχεται εδώ στον ιστότοπό μας, τους υπερσυνδεδεμένους ιστότοπους, τις σχετικές εφαρμογές, τα φόρουμ, τα ιστολόγια, τους λογαριασμούς κοινωνικών μέσων και άλλες πλατφόρμες (“Site”) προορίζεται μόνο για τις γενικές πληροφορίες σας, που προέρχονται από τρίτες πηγές. Δεν κάνουμε καμία εγγύηση οποιουδήποτε είδους σε σχέση με το περιεχόμενό μας, συμπεριλαμβανομένης ενδεικτικά της ακρίβειας και της ενημέρωσης. Κανένα μέρος του περιεχομένου που παρέχουμε δεν αποτελεί οικονομική συμβουλή, νομική συμβουλή ή οποιαδήποτε άλλη μορφή συμβουλών που προορίζεται για τη συγκεκριμένη εμπιστοσύνη σας για οποιονδήποτε σκοπό. Οποιαδήποτε χρήση ή εξάρτηση από το περιεχόμενό μας είναι αποκλειστικά με δική σας ευθύνη και διακριτική ευχέρεια. Πρέπει να πραγματοποιήσετε τη δική σας έρευνα, να ελέγξετε, να αναλύσετε και να επαληθεύσετε το περιεχόμενό μας προτού βασιστείτε σε αυτά. Η διαπραγμάτευση είναι μια εξαιρετικά επικίνδυνη δραστηριότητα που μπορεί να οδηγήσει σε μεγάλες απώλειες, επομένως συμβουλευτείτε τον οικονομικό σας σύμβουλο πριν λάβετε οποιαδήποτε απόφαση. Κανένα περιεχόμενο στον ιστότοπό μας δεν προορίζεται να είναι παράκληση ή προσφορά