Роботы, принимающие важные решения в отношении человека, сегодня уже не фантастика. И государственные организации, и бизнес активно говорят о расширении применения программ искусственного интеллекта. Поэтому комиссия по правовому обеспечению цифровой экономики Московского отделения АЮР предложила прописать правила для роботов. И главное — максимально упростить процедуры обжалования решений, принятых искусственным интеллектом. По данным «РГ», подготовленные предложения сейчас изучаются в Совете Федерации.
«Системы автоматизированного принятия решения сегодня активно применяются при принятии решений во время устройства сотрудников на работу, увольнении сотрудников, получении кредита или страховки и вынесении штрафов в автоматическом режиме, — рассказывает председатель «цифровой» комиссии Московского отделения АЮР Александр Журавлев. — Такие алгоритмы нередко имеют в своей основе технологии искусственного интеллекта, в том числе основанные на самообучении».
По его словам, применение таких систем — несомненная помощь бизнесу, они позволяют экономить время и деньги. «Но вместе с этим они несут ряд рисков, — говорит он. — В частности, это риски принятия алгоритмами необъективных и дискриминирующих решений». Например, в США системы искусственного интеллекта уже используются в судах. Алгоритм применяет секретные критерии оценки личности подсудимого, суть которых не разглашается, поскольку данный алгоритм представляет собой коммерческую тайну. Но при этом с легкой «руки» судебных роботов подсудимым нередко увеличивают срок.
«Крайне важным является создание эффективных механизмов обжалования принятых в автоматизированном порядке решений госорганов. Такие механизмы должны быть максимально «дружелюбными» для граждан и организаций, оперативными и обеспечивающими участие компетентных лиц, рассматривающих жалобу», — подчеркнул Александр Журавлев.