Искусственный интеллект Amazon лишает работы водителей доставки

Нейросеть оценивает качество работы водителей. Однако разработчики не учли различные непредвиденные обстоятельства. Из-за этого подрядчики без уважительной причины остаются без работы, сообщает Bloomberg.

Компания Amazon разработала систему контроля на базе технологии искусственного интеллекта за водителями доставки своих товаров. Это не сотрудники компании, а подрядчики различных сервисов доставки. Для обеспечения быстрой и гарантированной  доставки алгоритм следит за водителями - вовремя ли они приезжают за посылками и  доставляют их, есть ли жалобы со стороны клиентов. Проблемным водителям сначала снижают рейтинг, то есть число заказов, соответственно уровень заработка снижается, а затем следует увольнение.

В погоне за общей эффективностью системы разработчики алгоритмов не учли все нюансы реальной работы доставщиков. Водители регулярно сталкиваются с проблемами, не зависящими от них: задержки в пункте выдачи посылок, занесенная снегом дорога, закрытые ворота, опоздание или отсутствие дома клиента по адресу доставки. Однако искусственный интеллект безжалостен и наказывает водителей даже за те ситуации, на которые они никак не могли повлиять. Писать в поддержку бесполезно: водителям отвечают стандартными отписками  вроде «мы рассматриваем ваше обращение». Единственный способ ускорить рассмотрение апелляции - заплатить за это 200 долларов. Некоторые водители, оставшиеся без работы, пытались даже лично обратиться через аккаунты в соцсетях  к Джеффу Безосу, основателю Amazon, но безуспешно.

В компании считают, что внедрение алгоритма прошло успешно,  он доказал эффективность, ведь 95% посылок доставляются вовремя и без проблем. Однако ошибки нейросети приводят к личной трагедии людей, оставшихся без работы в непростой период пандемии. В их числе - 63-летний ветеран и мать троих детей, обоих автоматически уволили за ситуации, в которых они не виноваты.