Разработчики алгоритма приняли на первый взгляд вполне безобидное решение: они обучили систему оценивать здоровье человека на основании его ежегодных трат на медицинские услуги. Иными словами, модель использовала медицинские затраты, чтобы оценивать медицинские нужды83.
Казалось бы, в этом есть логика: заболевшие люди обычно дороже обходятся системе здравоохранения. Но проблема с этим предположением, отраженным в дизайне системы, состоит в том, что не все подходят к тратам одинаково.
Кодозависимые. Жизнь в тени искусственного интеллекта
·
Мадумита Мурджия
