С ростом популярности генеративного искусственного интеллекта компании начали требовать от своих сотрудников демонстрации реальных успехов в его освоении. Однако это привело к неожиданным последствиям: работники Amazon начали давать ИИ бессмысленные задания, чтобы улучшить свои показатели. Как сообщает Financial Times, программа MeshClaw, используемая в компании, позволяет автоматизировать различные задачи, что некоторые сотрудники стали использовать для увеличения личной эффективности, а не для пользы компании.
На фоне увеличивающегося давления со стороны руководства, требующего, чтобы более 80% разработчиков использовали ИИ на постоянной основе, возникли ложные стимулы. Хотя формально запрещено использовать данные о работе с ИИ для оценки эффективности, сотрудники начали подозревать, что это происходит. В Meta Platforms также отмечают подобные случаи. Разработка MeshClaw, которая может выполнять множество функций, вызывает опасения из-за потенциальных ошибок, которые могут возникать при использовании этого ПО без должного контроля.