Гайдлайны по закупкам решений на основе искусственного интеллекта
20 сентября Всемирный экономический форум (ВЭФ) представил руководство для правительств по закупкам решений на основе искусственного интеллекта (ИИ) [1]. Набор гайдлайнов призван помочь госорганам точно сформулировать задачи при закупке продуктов, в которых используется ИИ, оценить возможные риски и выстроить здоровые отношения с подрядчиками. Также он должен способствовать большему пониманию между правительствами, поставщиками и другими стейкхолдерами относительно сотрудничества в сфере использования ИИ.
По словам Эддана Каца, руководителя проекта ВЭФ по ИИ: «Решения на основе ИИ обладают потенциалом для значительного улучшения работы правительства и для предоставления гражданам общественных благ новыми способами — от организации дорожного движения до оказания медицинской помощи и обработки налоговых деклараций. […] Эти гайдлайны дают возможность правительствам и международным органам разрабатывать правильную политику, протоколы и критерии оценки, способствующие эффективному, ответственному и этичному использованию ИИ в общественной сфере. По мере установления и широкого внедрения стандартов будут возникать новые подходы, которые помогут ориентироваться в этой неопределенной экосистеме» [2].
В подготовке документа, занявшей 10 месяцев, участвовала команда ВЭФ по ИИ и машинному обучению и прикомандированные сотрудники Офиса по ИИ правительства Великобритании, компаний Deloitte, Salesforce и Splunk, консультировавшиеся с более широким кругом исследователей и профессионалов.
Великобритания помимо вклада в разработку гайдлайнов анонсировала и их пилотное внедрение в работу правительства, опубликовав драфт собственного руководства на основе документа ВЭФ [3]. Ещё раньше летом британское правительство опубликовало более общее руководство по использованию ИИ в госсекторе и восемь кейсов, описывающих уже существующие решение [4].
В документах ВЭФ и Великобритании гайдлайны расписаны подробно, но в краткой форме они представлены в таблице ниже. В частности, в соответствии с этими руководствами при закупках решений на основе ИИ рекомендуется обеспечивать возможность итераций в разработке продукта, формировать мультидисциплинарные команды, тщательно подходить к вопросам, связанным с данными, в том числе их доступности, конфиденциальности. Гайдлайны акцентируют внимание на необходимости обеспечения интерпретируемости и подотчётности алгоритмов. В документах заметное место уделяется оценке рисков, а также выстраиванию справедливых отношений между заказчиком и подрядчиком.
В Великобритании пилотное использование правил по закупкам решений на основе ИИ начнётся со следующего месяца в министерствах транспорта, обороны, внутренних дел, а также на уровне местных правительств [5].
Гайдлайны ВЭФ — это своевременный реакция на растущий интерес правительств к внедрению ИИ в общественной сфере. Согласно обзору сайта о закупках Tenderlake [6], в Европе насчитывается уже немало примеров закупок решений на основе ИИ.
[1] Guidelines for AI Procurement, WEF, http://www3.weforum.org/docs/WEF_Guidelines_for_AI_Procurement.pdf
[2] UK Government First to Pilot AI Procurement Guidelines Co-Designed with World Economic Forum, WEF, https://www.weforum.org/press/2019/09/uk-government-first-to-pilot-ai-procurement-guidelines-co-designed-with-world-economic-forum/
[3] Draft Guidelines for AI procurement, Office for Artificial Intelligence, https://www.gov.uk/government/publications/draft-guidelines-for-ai-procurement/draft-guidelines-for-ai-procurement
[4] A guide to using artificial intelligence in the public sector, Government Digital Service and Office for Artificial Intelligence, https://www.gov.uk/government/collections/a-guide-to-using-artificial-intelligence-in-the-public-sector
[5] Government AI rules to require diverse teams to prevent racist and sexist algorithms, The Telegraph https://www.telegraph.co.uk/technology/2019/09/20/government-ai-rules-require-diverse-teams-prevent-racist-sexist/
[6] Public sector procurement of AI across Europe, Tenderlake, https://www.tenderlake.com/blog/article/53/public-sector-procurement-of-ai-across-europe
