CGD - Crypto Government Department logo CGD - Crypto Government Department logo
Forklog 2023-03-29 09:30:44

Сотни экспертов призвали приостановить обучение наследника GPT-4

Более тысячи отраслевых экспертов, включая Илона Маска и Стива Возняка, призвали на шесть месяцев приостановить обучение языковых моделей мощнее GPT-4 от OpenAI. Соответствующее открытое письмо Института будущего жизни подписали ученые, бизнесмены и независимые исследователи. Эксперты считают, что разработку продвинутого ИИ необходимо поставить на паузу до тех пор, пока не появятся общие протоколы безопасности для таких конструкций. «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в заявлении. В письме подробно описаны потенциальные угрозы для общества и цивилизации со стороны конкурентоспособных ИИ-систем. Они включают экономические и политические потрясения. Также эксперты призвали разработчиков сотрудничать с регуляторами. «Письмо не идеально, но дух правильный: нам нужно замедлиться, пока мы лучше не поймем разветвления», — сказал почетный профессор Нью-Йоркского университета Гэри Маркус, подписавший письмо. Ученый считает, что большие языковые системы могут причинить вред многим людям. «Крупные игроки становятся все более скрытными в отношении того, что они делают, что затрудняет защиту общества от любого вреда, который может материализоваться», — добавил Маркус. Вероятно, обеспокоенность представителей отрасли возросла с активным развитием больших языковых моделей и чат-ботов на их основе. С момента анонса ChatGPT в ноябре 2022 года техгиганты и стартапы вступили в новую ИИ-гонку. В феврале Microsoft и Google одна за другой представили поисковые сервисы на базе диалоговых алгоритмов. В марте OpenAI открыла доступ к API ChatGPT, что позволило десяткам компаний интегрировать чат-бота в собственные приложения. За последние два месяца Microsoft представила ряд ИИ-функций на основе разработок OpenAI для своих продуктов, включая Word, Excel, PowerPoint, Outlook, Teams, GitHub, Bing, Dynamics и Azure. Напомним, в марте Европол предупредил об угрозах со стороны ChatGPT. В том же месяце генеральный директор OpenAI Сэм Альтман признал риски, связанные с чат-ботом. В январе разработчик ChatGPT предупредил об использовании ИИ дезинформаторами. https://forklog.com/exclusive/ai/obzor-nejroseti-gpt-4-ot-openai-chto-umeet-i-chem-otlichaetsya-ot-predshestvennikov

Διαβάστε την Αποποίηση Ευθυνών : Όλο το περιεχόμενο που παρέχεται εδώ στον ιστότοπό μας, τους υπερσυνδεδεμένους ιστότοπους, τις σχετικές εφαρμογές, τα φόρουμ, τα ιστολόγια, τους λογαριασμούς κοινωνικών μέσων και άλλες πλατφόρμες (“Site”) προορίζεται μόνο για τις γενικές πληροφορίες σας, που προέρχονται από τρίτες πηγές. Δεν κάνουμε καμία εγγύηση οποιουδήποτε είδους σε σχέση με το περιεχόμενό μας, συμπεριλαμβανομένης ενδεικτικά της ακρίβειας και της ενημέρωσης. Κανένα μέρος του περιεχομένου που παρέχουμε δεν αποτελεί οικονομική συμβουλή, νομική συμβουλή ή οποιαδήποτε άλλη μορφή συμβουλών που προορίζεται για τη συγκεκριμένη εμπιστοσύνη σας για οποιονδήποτε σκοπό. Οποιαδήποτε χρήση ή εξάρτηση από το περιεχόμενό μας είναι αποκλειστικά με δική σας ευθύνη και διακριτική ευχέρεια. Πρέπει να πραγματοποιήσετε τη δική σας έρευνα, να ελέγξετε, να αναλύσετε και να επαληθεύσετε το περιεχόμενό μας προτού βασιστείτε σε αυτά. Η διαπραγμάτευση είναι μια εξαιρετικά επικίνδυνη δραστηριότητα που μπορεί να οδηγήσει σε μεγάλες απώλειες, επομένως συμβουλευτείτε τον οικονομικό σας σύμβουλο πριν λάβετε οποιαδήποτε απόφαση. Κανένα περιεχόμενο στον ιστότοπό μας δεν προορίζεται να είναι παράκληση ή προσφορά