IBM предпринимает важные меры по повышению прозрачности ИИ для бизнеса

Новые облачные сервисы по обнаружению и снижению уровня предвзятости обеспечат более высокую прозрачность средств ИИ при выработке решений

АРМОНК, штат Нью-Йорк - 20 сен 2018: IBM объявила о создании технологии, которая призвана обеспечить новый уровень прозрачности средств искусственного интеллекта, позволяя корпоративным заказчикам в большей степени использовать их возможности.

Облачный сервис, расположенный на платформе IBM Cloud, автоматически обнаруживает предвзятость в работе средств ИИ от разных производителей и интерпретирует ход выработки ими решений. Подразделение IBM Services будет помогать корпоративным заказчикам в полной мере задействовать функционал нового инструментария.

В целях обеспечения глобального обмена опытом в решении вопроса тенденциозности ИИ, IBM Research опубликует в открытых сообществах разработчиков инструментарий и методические рекомендации для обнаружения и снижения степени предвзятости средств ИИ.

«Корпорация IBM первой предложила принципы обеспечения доверия и прозрачности в разработке ИИ-технологий, — сказал Дэвид Кенни, старший вице-президент подразделения когнитивных решений в IBM. — Пора эти принципы начать применять на практике. Мы предлагаем новый уровень прозрачности и контроля для бизнес-пользователей ИИ в целях снижения потенциального риска от некорректной работы механизмов выработки решений».

Опрос, проведенный IBM Institute for Business Value, показал, что 82% корпораций планируют внедрение средств ИИ, но при этом 60% опасаются дополнительной ответственности, а 63% считают, что собственными силами не смогут на должном уровне использовать новые технологии.

 

Больше прозрачности в работе ИИ

Новые возможности IBM Cloud по повышению уровня доверия и прозрачности ИИ работают с моделями, созданными такими фреймворками машинного обучения и сред для разработчиков, как Watson, Tensorflow, SparkML, AWS SageMaker и AzureML. То есть, пользователи большинства популярных фреймворков и сред смогут использовать новый инструментарий. Кроме того, предлагаемый сервис можно настроить под индивидуальные факторы принятия решений любого бизнес-процесса.

Полностью автоматизированный программный сервис разъясняет ход выработки решений и обнаруживает тенденциозность ИИ-моделей в ходе их выполнения, фиксируя моменты потенциальной предвзятости. Более того, сервис вырабатывает рекомендации по наполнению моделей дополнительной информацией в целях снижения уровня обнаруженной тенденциозности.

Разъяснения даются в наглядном виде, с указанием факторов, которые повлияли на выбор направления решения, степени доверия к предложенному решению и факторов, определивших эту степень. Система ведет дневник показателей точности моделей, которые могут понадобится в целях улучшения обслуживания клиентов, соблюдения нормативных актов и комплаенса (например, GDPR).

Данный функционал доступен через графические панели управления и дает бизнес-пользователям уникальную возможность для понимания, объяснения и контроля за ходом выработки искусственным интеллектом решений в отсутствие специальных навыков и знаний у бизнес-пользователей.

IBM также объявляет о запуске консалтинговых услуг  по оказанию содействия в создании бизнес-процессов и интерфейсов «человек - ИИ» для дальнейшей минимизации предвзятости алгоритмов.  

 

Открытый инструментарий для построения более справедливого ИИ

IBM Research выложит в открытый доступ инструментарий AI Fairness 360 — библиотеку новых алгоритмов, исходного кода и методических материалов для того, чтобы академическое сообщество, ученые и эксперты по работе с данными могли встраивать функционал обнаружения предвзятости в собственные модели машинного обучения.

 

Исследование раскрыло приоритеты широкого внедрения ИИ и препятствия на этом пути

Опрос 5 тысяч менеджеров высшего уровня, проведенный IBM Institute for Business Value, показал наличие существенного сдвига по отношению к оценке бизнес-потенциала ИИ. В частности:

  • 82% опрошенных компаний и 93% компаний-лидеров рассматривают или уже внедряют ИИ в целях повышения доходов;
  • 60% имеют опасения по поводу вопросов дополнительной ответственности, а 63% указывают на нехватку навыков в области ИИ;
  • Гендиректоры видят наибольший потенциал ИИ в информационных технологиях и безопасности, обслуживании клиентов и управлении рисками;
  • Проникновение ИИ будет выше в секторах с высокой степенью цифровизации, например, в сфере финансовых услуг.

 

О корпорации IBM и искусственном интеллекте

IBM является одним из мировых лидеров в программном обеспечении, услугах и технологиях ИИ для бизнеса. ИИ-решения Watson используются в 20 отраслях более чем 16 тыс. заказчиков из 80 стран. По данным IDC, IBM является ведущим разработчиком когнитивных программных платформ. Семь из десяти крупнейших автопроизводителей и восемь из десяти ведущих корпораций ТЭК используют ИИ-решения IBM Watson.

 

Оригинальная версия пресс-релиза на английском "IBM Takes Major Step in Breaking Open the Black Box of AI"  была опубликована 19 сентября 2018 года.

.

Подписывайтесь на официальную страницу IBM в сети Facebook и будьте в курсе последних новостей о компании.

Связанные ленты новостей в формате XML
Темы Ленты новостей в формате XML
Analytics
Cloud Computing
IBM Watson
Linux and Open Source
Research
Software

Рекомендовать