Вольногорск

информационный


left

icon user Новости науки и техники 19 сентябрь 2018

icon comment 0 Комментариев

IBM разработала инструменты для определения объективности решений ИИ

Компания IBM разработала инструменты, которые позволят анализировать в режиме реального времени, как и почему алгоритмы искусственного интеллекта (ИИ) принимают решения.

IBM разработала инструменты для определения объективности решений ИИ

Набор программных инструментов Fairness 360 Kit будет также выявлять признаки необъективности решений и предоставлять рекомендации для их корректировки.

Этот шаг IBM демонстрирует, что использование ИИ становится всё более серьёзной проблемой, поскольку компании повсеместно внедряют машинное обучение и различные модели для принятия решений. Часто алгоритмы работают в так называемом «чёрном ящике», то есть люди не могут видеть, как принимаются решения. У руководителей могут возникнуть проблемы с пониманием предложенных ИИ моделей и анализа данных и процессов, предоставляемых в готовом виде.

Возрастает беспокойство по поводу того, что алгоритмы, используемые как техническими гигантами, так и другими фирмами, не всегда объективны в процессе принятия решений. Например, в недалёком прошлом системы распознавания образов не смогли идентифицировать лица людей с не белым цветом кожи.

Однако, поскольку алгоритмы всё чаще принимают автоматические решения по широкому кругу вопросов, таким как полицейская деятельность и страхование, последствия их рекомендаций становятся более значимыми.

Программное обеспечение для облачных вычислений IBM будет работать с открытым исходным кодом и поддерживать множество широко используемых фреймворков для построения алгоритмов. В частности, ПО IBM совместимо с моделями, основанными на платформах машинного обучения, таких как Watson, Tensorflow, SparkML, AWS SageMaker и AzureML.

IBM разработала инструменты для определения объективности решений ИИ

IBM заявила, что её технология позволит контролировать процесс принятия решений ИИ, чтобы работа предприятий соответствовала нормативным требованиям. Клиенты смогут видеть через визуальную панель, как алгоритмы принимают решения, и какие факторы используются при составлении окончательных рекомендаций.

Источник servernews.ru

Просмотров: 4


Комментарии

Имя:

code Код:

right