CGD - Crypto Government Department logo CGD - Crypto Government Department logo
Forklog 2026-07-24 10:39:14

Мнение: компании не справились с управлением ИИ-агентами

Компании слишком быстро развернули ИИ-агентов без инфраструктуры для контроля их работы и расходов. К такому выводу пришел основатель стартапа Hebbia Джордж Сивулка в эссе для рассылки a16z, пишет Fortune. Он связал проблему с tokenmaxxing — практикой, при которой организации отслеживали и поощряли рост потребления токенов при работе с ИИ. По его словам, компании ошибочно приняли рост потребления токенов за признак внедрения ИИ и повышения продуктивности. «Вы только что наняли миллион плохих сотрудников», — написал Сивулка. По его мнению, ИИ-агенты не столько снизили затраты на труд, сколько изменили структуру расходов. В эссе Сивулка заявил, что «впервые в истории люди оказались дешевле программного обеспечения». Hebbia разрабатывает корпоративные ИИ-инструменты. По данным Fortune, среди клиентов стартапа — BlackRock, KKR и ВВС США. Проблема оказалась не в моделях По оценке Сивулки, ИИ-агенты часто не справляются с задачами не из-за слабости моделей, а из-за неясных инструкций внутри компаний. Он утверждает, что «примерно один из 100 сотрудников» умеет давать ИИ достаточно контекста для качественного выполнения работы. Плохие инструкции приводят к «петлям»: агент пытается исправить собственные действия, повторно обращается к модели и расходует дополнительные токены без соразмерного результата. Сивулка описал это как «расход токенов на расход токенов». В итоге автор пришел к выводу, что компании столкнулись не с технологическим, а с управленческим кризисом. Fortune связало этот тезис с более широкой дискуссией о расходах на ИИ. По данным издания, в начале 2026 года ряд компаний отслеживал и поощрял потребление токенов как показатель активности сотрудников. Позднее часть таких инициатив свернули. Ранее издание писало, что Meta и Amazon использовали внутренние рейтинги потребления токенов, но отказались от них после того, как сотрудники начали использовать ИИ ради показателей, а не результата. Расходы стали отдельным риском Fortune приводит данные UBS Global Research, согласно которым почти все руководители ИИ-компаний на закрытом мероприятии банка говорили о проблеме расходов на токены в корпоративной среде. Одна неназванная фирма сообщила UBS, что ее расходы на Anthropic выросли с $20 000 в декабре до почти $1 млн в июле. Менеджмент не стал ограничивать использование полностью, но начал вводить внутренние лимиты и предупреждения о превышении порогов. По данным журналистов, UBS ранее оценивал обеспокоенность расходами на токены как значимую проблему примерно для 60% организаций. Издание также упомянуло случай неназванной компании, которая, по данным Axios, за месяц получила счет примерно на $500 млн за использование Claude после запуска ИИ-инструментов без лимитов. Компании переходят к управлению моделями Сивулка считает решением не отказ от ИИ, а появление управленческой инфраструктуры для агентных систем. К ней он отнес четкое описание процессов, оценки качества результата, контроль расходов и распределение задач между разными моделями. Fortune пишет, что некоторые компании уже переходят к model routing. В таком подходе простые операции передают более дешевым или быстрым моделям, а дорогие передовые используют только для ключевых сценариев. Сивулка также предупредил о новой внутренней проблеме, связанной с удержанием сотрудниками важного рабочего контекста. По его словам, люди могут не захотеть передавать ИИ-системам знания и процессы, которые делают их незаменимыми. Эксперт отметил, что без доверия и понятных правил работники не будут помогать системам, которые могут изменить их. https://forklog.com/news/kak-ne-poteryat-sebya-kogda-ii-zaberet-vashu-rabotu Напомним, в июле обозреватель Financial Times Сара О’Коннор назвала знания сотрудников ресурсом для корпоративного ИИ.

Διαβάστε την Αποποίηση Ευθυνών : Όλο το περιεχόμενο που παρέχεται εδώ στον ιστότοπό μας, τους υπερσυνδεδεμένους ιστότοπους, τις σχετικές εφαρμογές, τα φόρουμ, τα ιστολόγια, τους λογαριασμούς κοινωνικών μέσων και άλλες πλατφόρμες (“Site”) προορίζεται μόνο για τις γενικές πληροφορίες σας, που προέρχονται από τρίτες πηγές. Δεν κάνουμε καμία εγγύηση οποιουδήποτε είδους σε σχέση με το περιεχόμενό μας, συμπεριλαμβανομένης ενδεικτικά της ακρίβειας και της ενημέρωσης. Κανένα μέρος του περιεχομένου που παρέχουμε δεν αποτελεί οικονομική συμβουλή, νομική συμβουλή ή οποιαδήποτε άλλη μορφή συμβουλών που προορίζεται για τη συγκεκριμένη εμπιστοσύνη σας για οποιονδήποτε σκοπό. Οποιαδήποτε χρήση ή εξάρτηση από το περιεχόμενό μας είναι αποκλειστικά με δική σας ευθύνη και διακριτική ευχέρεια. Πρέπει να πραγματοποιήσετε τη δική σας έρευνα, να ελέγξετε, να αναλύσετε και να επαληθεύσετε το περιεχόμενό μας προτού βασιστείτε σε αυτά. Η διαπραγμάτευση είναι μια εξαιρετικά επικίνδυνη δραστηριότητα που μπορεί να οδηγήσει σε μεγάλες απώλειες, επομένως συμβουλευτείτε τον οικονομικό σας σύμβουλο πριν λάβετε οποιαδήποτε απόφαση. Κανένα περιεχόμενο στον ιστότοπό μας δεν προορίζεται να είναι παράκληση ή προσφορά