Чиновники полиции и службы опеки заявили, что перспективы дальнейшего использования ИИ в делах о защите детей будут подвергнуты тщательной проверке.
В японской полиции признали, что позволили искусственному интеллекту (ИИ) повлиять на их решение отказаться от обеспечения защиты девочке, которая позже умерла на попечении своей матери (выше фото в момент ареста этой женщины).
«Показатели ИИ приводятся только для справки», — заявил на пресс-конференции во вторник (11 июля) Кацуюки Ичими (изображение ниже), губернатор префектуры Миэ. Он подчеркнул важность оценки каждой отдельной ситуации ответственными лицами, не только искусственным интеллектом.
«Мы не можем сделать вывод о том, что метод использования этих данных был в этом случае на 100% верным», — продолжил губернатор. Он сообщил, что ранее уже намеревался передать вопрос ИИ стороннему комитету, состоящему из привлеченных экспертов, для определения возможностей дальнейшего использования этих данных, сообщает японское издание Jiji.
Шансы на смерть
Полиция Японии рассматривала дело 4-летней девочки в городе Цу, проведя его через программу ИИ, введенную в 2020-м и подготовленную на основании данных от 6000 до 13000 случаев с детьми. Руководство полиции надеялось, что инновационная программа поможет снизить нагрузку на детские консультационные центры, которые служат в Японии эквивалентом западных служб защиты детей.
Специализированный ИИ определил случай этой девочки как требующий уровня защиты в 39%. По словам полиции, мать девочки демонстрировала готовность откликаться на рекомендации эксперта по наблюдению за детьми. В результате полиция решила не помещать ребенка под стражу и проводить дальнейшее расследование.
А теперь 42-летняя Риеко Накабаяси находится с 29 июня под стражей в полиции за нанесение телесных повреждений, приведших к смерти ее дочери.
Впервые японка и ее дочь встретились с представителями детского консультационного центра в феврале 2022-го после информации неравнодушных свидетелей о том, что на теле девочки были видны синяки, сообщает The Asahi Shimbun.
Сотрудники опеки решили время от времени навещать ребенка, но оставить ее под присмотром матери. Они приняли слова женщины о том, что синяки возникли не в результате жестокого обращения, поскольку мать девочки «демонстрировала готовность сотрудничать».
Чиновники заявили, что положились на вывод ИИ, указавшего, что частые посещения представителей опеки послужат фактором риска для девочки. По их объяснению, именно по этой причине детская консультация не попыталась связаться с женщиной, когда ее сотрудники получили информацию, что девочка длительное время не появляется в детсаде.
Согласно The Japan Times, представители детского консультационного центр фактически не проверяли состояние девочки целый год.
Японские власти потратили годы на то, чтобы внедрить ИИ в систему ухода за детьми и дополнительно подчеркнуть этим инновационность страны «Восходящего солнца». Местный стартап Unifa еще в 2013 году стремился представить инструменты на основе ИИ, чтобы помочь отслеживать рост детей, их привычки сна и другие показатели здоровья в первые годы их жизни, пока они посещают детсад.
К 2019-му этот сервис стал использоваться примерно в 6250 детсадах и других детских учреждениях по всей Японии.