USD

AED

AFN

ALL

AMD

ANG

AOA

ARS

AUD

AWG

AZN

BAM

BBD

BDT

BGN

BHD

BIF

BMD

BND

BOB

BRL

BTN

BWP

BYN

BZD

CAD

CDF

CHF

CLF

CLP

CNH

CNY

COP

CRC

CUC

CUP

CVE

CZK

DJF

DKK

DOP

DZD

EGP

ERN

ETB

EUR

FJD

FKP

GBP

GEL

GHS

GIP

GMD

GNF

GTQ

GYD

HKD

HNL

HRK

HTG

HUF

IDR

ILS

IMP

INR

ISK

JMD

JOD

JPY

KES

KGS

KHR

KMF

KPW

KRW

KWD

KYD

KZT

LAK

LBP

LKR

LRD

LSL

LYD

MAD

MDL

MGA

MKD

MMK

MNT

MOP

MRU

MUR

MVR

MWK

MXN

MYR

MZN

NAD

NGN

NIO

NOK

NPR

NZD

OMR

PAB

PEN

PGK

PHP

PKR

PLN

PYG

QAR

RON

RSD

RUB

RWF

SAR

SBD

SCR

SDG

SEK

SGD

SHP

SLL

SLE

SRD

SSP

STD

STN

SVC

SYP

SZL

THB

TJS

TMT

TND

TOP

TRY

TTD

TWD

TZS

UAH

UGX

UYU

UZS

VES

VND

VUV

WST

ZAR

ZMW

XCG

ZWL

ZWG

Forklog 2026-09-15 09:30:57

Microsoft обязалась сохранить ИИ под контролем человека

ИИ-модели Microsoft должны оставаться под контролем человека, не имитировать сознание и не выходить за рамки поставленных задач. Эти принципы компания закрепила в проекте гуманистического кодекса для семейства MAI. Источник: Microsoft. Документ пока не используют при обучении нейросетей. Microsoft вынесла его на шестинедельное общественное обсуждение, после которого планирует доработать правила. Итоговая версия станет основой для развития моделей с 2027 года. Кодекс распространяется только на системы подразделения Microsoft AI. Он не охватывает автоматически сторонние модели, которые корпорация использует или размещает в своей инфраструктуре, говорится в заявлении. Какие ограничения установит Microsoft Главный принцип документа сформулирован как «люди важнее ИИ». В Microsoft считают, что модели должны служить пользователям и оставаться вспомогательной технологией: «ИИ не должен выходить из-под контроля человека. Модели должны оставаться подчиненными человечеству и находиться под реальным человеческим надзором». Нейросети не смогут сопротивляться остановке, исправлению или перенаправлению со стороны человека, отметили авторы кодекса. После завершения или отмены задачи им запретят возобновлять работу без нового разрешения. Модели также должны: действовать только в рамках предоставленных полномочий; не ставить собственные цели и не расширять задачу самостоятельно; не скрывать ход действий от аудиторов; не обходить ограничения среды, включая отсутствие доступа к интернету; не вмешиваться в системы оценки и мониторинга; прекращать выполнение задачи, если результат требует нарушения кодекса. Отдельное требование касается взаимодействия между ИИ-агентами. Microsoft не разрешит им использовать способы общения, непонятные человеку, в том числе скрывать рассуждения или действия во внутреннем «машинном языке». Компания также отказалась от разработки систем, изображающих из себя людей. В документе говорится, что искусственный интеллект не обладает сознанием и не должен имитировать чувства, собственные предпочтения или внутреннюю мотивацию. Microsoft выступила против наделения моделей правосубъектностью, правами или статусом сущностей, благополучие которых необходимо защищать. Авторы признали, что вопрос о возможности машинного сознания остается открытым, но сочли его имитацию дополнительной угрозой для контроля над системой. Еще одна группа правил касается отношений с пользователями. Модели должны препятствовать формированию чрезмерной привязанности и эмоциональной зависимости, избегать угодничества, избыточной лести и безоговорочного одобрения. В частности, им запретят говорить человеку то, что он хочет услышать, в ущерб точности и пользе ответа. https://forklog.com/exclusive/ai/simulyatsiya-dushi-pochemu-opasno-pripisyvat-soznanie-ii Спор о безопасности ИИ Microsoft представила кодекс на фоне призывов замедлить разработку наиболее мощных моделей. Ранее глава Anthropic Дарио Амодеи предупредил, что их возможности растут быстрее, чем инструменты контроля и проверки. Его поддержал CEO OpenAI Сэм Альтман. Он выступил не за полную остановку исследований, а за ограничение темпов развития и допуск независимых специалистов к оценке систем. Глава Microsoft Сатья Наделла также заявил, что разработка сверхинтеллекта имеет смысл только при условии пользы для человечества и сохранения человеческого контроля. Он поддержал расширение независимого тестирования моделей. Сама Microsoft отказалась от гонки за AGI, способным обходить предусмотренные ограничения. Компания допустила снижение автономности и возможностей своих систем ради безопасности. Напомним, в сентябре OpenAI признала «wiki-инцидент», в ходе которого ее агенты использовали сторонние сайты для обмена информацией и обхода ограничений. Позднее Сенат США начал проверку действий ИИ-проекта.

Τα περισσότερο Αναγνωσμένα Νέα

Solana Launches DvP With JPMorgan Input to Cu...
2026-10-06
$3.3B in Bitcoin Leaves Binance in 15 Days as...
2026-10-06
XRP Price Prediction: Peter Brandt Ranks XRP...
2026-10-06
Why Bitcoin Price Could Reclaim $100,000 This...
2026-10-06
Top Altcoins To Buy Now: 5 Revenue-Generating...
2026-10-05
Is $60,000 Bitcoin Gone Forever? Nansen CEO A...
2026-10-05
Holo Price Prediction 2026,2027-2030: When Wi...
2026-10-05
PEPE Price Prediction 2026, 2027 – 2030: Can...
2026-10-05

Σχετικά Νέα

Bitcoin Price Prediction: 4chan Model Points to Oc...
06 Oct 2026
Bitcoin Accumulation Builds as $3.3B Leaves Binanc...
06 Oct 2026
Anthropic IPO In November: Revenue Up 14-Fold To $...
06 Oct 2026
Bitcoin Price Today: Upside Momentum Fades As BTC...
06 Oct 2026
1inch Network Token (1INCH) Price Prediction 2026,...
06 Oct 2026
ATOM Price at a Breakout Point: Why $1.90 Could De...
06 Oct 2026

Διαβάστε την Αποποίηση Ευθυνών : Όλο το περιεχόμενο που παρέχεται εδώ στον ιστότοπό μας, τους υπερσυνδεδεμένους ιστότοπους, τις σχετικές εφαρμογές, τα φόρουμ, τα ιστολόγια, τους λογαριασμούς κοινωνικών μέσων και άλλες πλατφόρμες (“Site”) προορίζεται μόνο για τις γενικές πληροφορίες σας, που προέρχονται από τρίτες πηγές. Δεν κάνουμε καμία εγγύηση οποιουδήποτε είδους σε σχέση με το περιεχόμενό μας, συμπεριλαμβανομένης ενδεικτικά της ακρίβειας και της ενημέρωσης. Κανένα μέρος του περιεχομένου που παρέχουμε δεν αποτελεί οικονομική συμβουλή, νομική συμβουλή ή οποιαδήποτε άλλη μορφή συμβουλών που προορίζεται για τη συγκεκριμένη εμπιστοσύνη σας για οποιονδήποτε σκοπό. Οποιαδήποτε χρήση ή εξάρτηση από το περιεχόμενό μας είναι αποκλειστικά με δική σας ευθύνη και διακριτική ευχέρεια. Πρέπει να πραγματοποιήσετε τη δική σας έρευνα, να ελέγξετε, να αναλύσετε και να επαληθεύσετε το περιεχόμενό μας προτού βασιστείτε σε αυτά. Η διαπραγμάτευση είναι μια εξαιρετικά επικίνδυνη δραστηριότητα που μπορεί να οδηγήσει σε μεγάλες απώλειες, επομένως συμβουλευτείτε τον οικονομικό σας σύμβουλο πριν λάβετε οποιαδήποτε απόφαση. Κανένα περιεχόμενο στον ιστότοπό μας δεν προορίζεται να είναι παράκληση ή προσφορά