Американское яблоко гендерного раздора

Она должна была стать новым словом в области кредитных карт, но стала эхом 60-х: Apple Card заподозрили в предвзятом отношении к женщинам-клиенткам. Практика показала, что кредитные лимиты, одобренные для представительниц прекрасного пола, составляют лишь небольшую часть от одобренных кредитов их супругам. Специалисты утверждают, что виною всему «сексистский алгоритм», разработанный программистами Apple.

В Нью-Йорке намерены проверить Goldman Sachs Group Inc. – банк, выдающий займы держателям «яблочных карт», а также алгоритм, который используется для определения кредитоспособности заявителя. При этом сам банк отрицает какую-либо дискриминацию. Однако соучредитель Apple Стив Возняк обратился к правительству США за помощью.

Расследование и комментарии Возняка последовали в ответ на публикацию в твиттере, сделанную предпринимателем Дэвидом Хайнемайером Ханссоном. Он рассказал, что смог получить с помощью Apple Card кредит, в 20 раз превышающий тот, который точно таким же способом смогла получить его супруга, у которой при этом безупречный кредитный рейтинг.

Ханссон пытался разобраться в произошедшей несправедливости, обратившись в службу поддержки Apple. И именно там ему объяснили, что всему виною этот самый алгоритм. Несмотря на то, что для супруги Ханссона было сделано исключение и выдан больший кредит, предприниматель не оставил ситуацию без огласки.

Пользователям же остается только догадываться, насколько они зависят от ошибок (или намеренно искаженных вычислений) искусственного интеллекта, какие ресурсы он для этого использует или даже о том, какая именно часть технологии является запатентованной для двух компаний Apple-Goldman. А если система «сознательно» принимает такие решения, то как возможно ее дальнейшее использование?

Отметим, что для Goldman это не первая ошибка в сфере потребительского рынка. Фирма с Уолл-стрит хоть и стоит на финансовой передовой, однако с кредитованием у банка как-то не задалось. Работа команды взыскателей долгов у банка не была выстроена, что привело к ранним потерям заемщиков, просрочивших выплаты.

Однако Apple паниковать по поводу «неверно работающего» алгоритма не намерена. Более того, исполнительный директор компании Тим Кук обмолвился, что цифровой гигант ищет партнера для доставки Apple Card в Европу.

Ране ДОЛГ.РФ рассказывал о намерении компании запустить свой стриминговый сервис фильмов и сериалов.