Прочтите Статью Кэтлин Уолч в Forbes о предвзятости ИИ и о том, как AI4ALL пытается решить эту проблему.
Люди от природы склонны к предвзятости. Внешние факторы, мнения и чувства помогают влиять на решения, которые мы принимаем. Машинное обучение составляет основу современных систем искусственного интеллекта, особенно популярны алгоритмы глубокого обучения. Эти алгоритмы очень требовательны к данным. В частности, что делает эти системы эффективными, так это большое количество хороших обучающих данных, которые имеют отношение к области, в которой вы пытаетесь достичь какой-либо цели машинного обучения. Тем не менее, данные машинного обучения настолько хороши, насколько хороши данные, которые вы им предоставляете. Что делать, если в этих обучающих данных есть неявные или явные смещения? Из этого следует, что система ИИ унаследует те же предубеждения. Некоторые из них могут быть легко обнаружены, но иногда они более тонкие, чем кто-либо может изначально представить, что может иметь значительные непредвиденные последствия.
Разнообразие команд равносильно разнородности данных
Подкаст AI Today взял интервью у Тесс Познер, генерального директора AI4All, некоммерческой организации, которая занимается расширением разнообразия ИИ. К сожалению, технологическая индустрия сегодня очень однородна; в этой области не так много женщин или цветных людей. AI4All стремится привнести более разнообразный фон в мир ИИ. Исследования неизменно показывают, что работа в группе с минимальным разнообразием или вообще без него приводит к снижению продуктивности и менее творческого мышления. Цель AI4All — помочь привлечь в индустрию искусственного интеллекта новых людей, которые иначе не попали бы в отрасль.
Полную версию статьи в Forbes читайте здесь.
