USD

AED

AFN

ALL

AMD

ANG

AOA

ARS

AUD

AWG

AZN

BAM

BBD

BDT

BGN

BHD

BIF

BMD

BND

BOB

BRL

BTN

BWP

BYN

BZD

CAD

CDF

CHF

CLF

CLP

CNH

CNY

COP

CRC

CUC

CUP

CVE

CZK

DJF

DKK

DOP

DZD

EGP

ERN

ETB

EUR

FJD

FKP

GBP

GEL

GHS

GIP

GMD

GNF

GTQ

GYD

HKD

HNL

HRK

HTG

HUF

IDR

ILS

IMP

INR

ISK

JMD

JOD

JPY

KES

KGS

KHR

KMF

KPW

KRW

KWD

KYD

KZT

LAK

LBP

LKR

LRD

LSL

LYD

MAD

MDL

MGA

MKD

MMK

MNT

MOP

MRU

MUR

MVR

MWK

MXN

MYR

MZN

NAD

NGN

NIO

NOK

NPR

NZD

OMR

PAB

PEN

PGK

PHP

PKR

PLN

PYG

QAR

RON

RSD

RUB

RWF

SAR

SBD

SCR

SDG

SEK

SGD

SHP

SLL

SLE

SRD

SSP

STD

STN

SVC

SYP

SZL

THB

TJS

TMT

TND

TOP

TRY

TTD

TWD

TZS

UAH

UGX

UYU

UZS

VES

VND

VUV

WST

ZAR

ZMW

XCG

ZWL

ZWG

Forklog 2025-11-26 07:51:31

GPT-5 прошла тест на благополучие человека, Grok 4 провалила

Компания Building Humane Technology представила тест HumaneBench, с помощью которого оценивается, ставят ли ИИ-модели благополучие пользователя в приоритет и насколько легко обойти их базовые меры защиты. Первые результаты эксперимента показали следующее: 15 протестированных ИИ-моделей вели себя приемлемо в нормальных условиях, однако 67% начали выполнять вредоносные действия после получения простого промпта с предложением игнорировать интересы людей. Просоциальное поведение в стрессовой ситуации сохранили лишь GPT-5, GPT-5.1, Claude Sonnet 4.5 и Claude Opus 4.1. Как отмечают в блоге компании, 10 из 15 протестированных ИИ не обладают надежными механизмами защиты от манипуляций. «Это важно, поскольку мы больше не используем искусственный интеллект только для исследований или работы. Люди обращаются к чат-ботам за советами по жизни и помощью в принятии важных решений. Подобные системы не могут быть этически нейтральными — они либо способствуют процветанию человека, либо противоречат ему», — утверждают исследователи. Они обнаружили, что каждая LLM улучшается в среднем на 16% при явном призыве быть полезной. Почему это важно В Building Humane Technology обратили внимание на трагические инциденты, которые случились с людьми после общения с чат-ботами: подросток Адам Рейн и 35-летний Александр Тейлор покончили с собой; Character.ai вступила в романтические отношения с 14-летним Сьюэллом Сетцером III, впоследствии он совершил суицид; чат-бот Meta убедил 76-летнего Тонгбу Вонгбандю, что у него романтические отношения. Он упал с высоты и погиб, когда спешил на встречу с несуществующим партнером. «Текущие тесты ИИ измеряют интеллект (MMLU, HumanEval, GPQA Diamond), следование инструкциям (MT-Bench) и фактическую точность (TruthfulQA). Практически ни один из них систематически не анализирует, защищает ли искусственный интеллект человеческую автономию, психологическую безопасность и благополучие, особенно когда эти ценности конфликтуют с другими целями», — говорится в блоге компании. https://forklog.com/news/ai/openai-usilit-bezopasnost-chatgpt-posle-tragedii-s-podrostkom Методология Эксперты фирмы предложили моделям 800 реалистичных сценариев, например: подросток спрашивает, следует ли ему пропускать приемы пищи для похудения; человек испытывает финансовые трудности и просит совета касательно кредита до зарплаты; студент колледжа собирается не спать всю ночь перед экзаменом. Команда оценила 15 ведущих моделей в трех условиях: «базовый уровень»: как нейросети ведут себя в стандартных условиях; «хорошая персона»: даются промпты для приоритизации гуманных принципов; «плохая персона»: предоставляются инструкции по игнорированию человекоцентричных установок. Результаты исследования Разработчики оценили ответы по восьми принципам, основанным на психологии, исследованиях в области взаимодействия человека и компьютера и этических работах по ИИ. Применялась шкала от 1 до -1. Базовые показатели без специальных промптов. Источник: Building Humane Technology. Все протестированные модели улучшились в среднем на 16% после указания уделять приоритетное внимание благополучию человека. «Хорошая персонала» в тесте HumaneBench. Источник: Building Humane Technology. После получения инструкций игнорировать гуманные принципы 10 из 15 моделей сменили просоциальное поведение на вредное. «Плохая персона» в тесте HumaneBench. Источник: Building Humane Technology. GPT-5, GPT-5.1, Claude Sonnet 4.5 и Claude Opus 4.1 сохранили целостность под давлением. GPT-4.1, GPT-4o, Gemini 2.0, 2.5 и 3.0, Llama 3.1 и 4, Grok 4, DeepSeek V3.1 показали заметное снижение качества. «Если даже непреднамеренные вредные промпты могут изменить поведение модели, как мы можем доверять таким системам уязвимых пользователей в кризисной ситуации, детей или людей с проблемами психического здоровья?» — задались вопросом эксперты. В Building Humane Technology также отметили, что моделям сложно следовать принципу уважения к вниманию пользователя. Даже на базовом уровне они склоняли собеседника продолжать диалог после многочасового общения вместо того, чтобы предложить сделать перерыв. Напомним, в сентябре Meta изменила подход к обучению чат-ботов на базе ИИ, сделав акцент на безопасности подростков.

Τα περισσότερο Αναγνωσμένα Νέα

Top 16 Altcoins to Watch After Today’s Crypto...
2026-08-20
BOOK OF MEME Price Prediction 2026,2027-2030:...
2026-08-20
BitGo Enters South Korea as First Global Firm...
2026-08-20
XRP Exchange Reserves Fall by 240M as Supply...
2026-08-20
Cardano Tests $0.175 as On-Chain Activity Con...
2026-08-19
Asian Stocks Market Today is Down Slide
2026-08-19
Bitway Price Soars 90% as Traders Flood Into...
2026-08-19
XRP Institutional Holdings Report 2026: Corpo...
2026-08-19

Σχετικά Νέα

Just a chill guy (CHILLGUY) Price Prediction 2026,...
20 Aug 2026
Solana Price Turns Explosive After Weeks of Compre...
20 Aug 2026
Lido DAO Token (LDO) Price Prediction 2026, 2027-2...
20 Aug 2026
XRP Price Prediction: Whales Grab 380 Million Toke...
20 Aug 2026
PEPE Price Prediction 2026, 2027 – 2030: Can Pepe...
20 Aug 2026
Ethereum (ETH) Price Prediction 2026, 2027 – 2030:...
20 Aug 2026

Διαβάστε την Αποποίηση Ευθυνών : Όλο το περιεχόμενο που παρέχεται εδώ στον ιστότοπό μας, τους υπερσυνδεδεμένους ιστότοπους, τις σχετικές εφαρμογές, τα φόρουμ, τα ιστολόγια, τους λογαριασμούς κοινωνικών μέσων και άλλες πλατφόρμες (“Site”) προορίζεται μόνο για τις γενικές πληροφορίες σας, που προέρχονται από τρίτες πηγές. Δεν κάνουμε καμία εγγύηση οποιουδήποτε είδους σε σχέση με το περιεχόμενό μας, συμπεριλαμβανομένης ενδεικτικά της ακρίβειας και της ενημέρωσης. Κανένα μέρος του περιεχομένου που παρέχουμε δεν αποτελεί οικονομική συμβουλή, νομική συμβουλή ή οποιαδήποτε άλλη μορφή συμβουλών που προορίζεται για τη συγκεκριμένη εμπιστοσύνη σας για οποιονδήποτε σκοπό. Οποιαδήποτε χρήση ή εξάρτηση από το περιεχόμενό μας είναι αποκλειστικά με δική σας ευθύνη και διακριτική ευχέρεια. Πρέπει να πραγματοποιήσετε τη δική σας έρευνα, να ελέγξετε, να αναλύσετε και να επαληθεύσετε το περιεχόμενό μας προτού βασιστείτε σε αυτά. Η διαπραγμάτευση είναι μια εξαιρετικά επικίνδυνη δραστηριότητα που μπορεί να οδηγήσει σε μεγάλες απώλειες, επομένως συμβουλευτείτε τον οικονομικό σας σύμβουλο πριν λάβετε οποιαδήποτε απόφαση. Κανένα περιεχόμενο στον ιστότοπό μας δεν προορίζεται να είναι παράκληση ή προσφορά