Искусственный интеллект может убить тебя

На искусственный интеллект нельзя полагаться при идентификации грибов, этот процесс намного сложней, чем прогнать фотографию через системы AI.

Если в вашем списке обязательных дел есть походы в лес за дикорастущими грибами, то мое вам почтение. Но когда придет время определять, можно ли есть собранные вами грибы, пожалуйста, не полагайтесь на искусственный интеллект.

Новый подробный отчет Public Citizen, некоммерческой организации по защите прав потребителей, предостерегает начинающих грибников от использования инструментов идентификации с помощью искусственного интеллекта для определения того, съедобна ли их добыча, указывая, что идентификация грибов - это “деятельность с высоким риском, требующая реальных навыков”. Это предупреждение прозвучало на фоне роста интереса к онлайн-сервисам и приложениям для идентификации грибов.

Хотя Рик Клейпул, директор по исследованиям Public Citizen, утверждает, что приложения на базе искусственного интеллекта могут быть мощными инструментами, в деле получения дополнительной информации о растениях и животных, это не тоже самое что и идентификация грибов - когда просто сфотографировать гриб и запустить его через приложение недостаточно.

“Опытные местные грибники обычно знают, что нет замены поиску, наблюдению, обонянию, прикосновению, а иногда и дегустации диких грибов", - пишет Клейпул в отчете. “Знание местных условий жизненно важно, поскольку разные виды грибов встречаются в разных частях страны”.

Например, фотографии шляпки гриба почти никогда не бывает достаточно, чтобы идентифицировать вид с какой-либо степенью уверенности, отмечает Клейпул. Крайне важно учитывать особенности нижней стороны шляпки гриба, ширину шляпки, ножку и основание ножки. Кроме того, грибники должны обращать внимание на то, где растет гриб, например, на земле или в древесине. Если он растет на древесине, собиратели также должны идентифицировать породу древесины.

Согласно отчету, в Северной Америке существует более 5000 видов мясистых грибов, и о большинстве из них мы еще многого не знаем. Известно, что 75 видов этих грибов смертельно опасны или токсичны, в то время как 36 предположительно ядовиты. Кроме того, известно, что 40 видов ядовиты в сыром виде, но их безопасно употреблять в пищу после приготовления.

С 1999 по 2016 год было зарегистрировано по меньшей мере 133 000 случаев отравления грибами.. 704 из этих случаев привели к серьезному ущербу здоровью, а 52 - к смерти.

Клейпул продолжает утверждать, что уже проводятся некоторые исследования точности приложений для идентификации грибов - и результаты не обнадеживают. Исследование, проведенное в 2022 году австралийскими исследователями ядов, в котором были проанализированы три из этих приложений с искусственным интеллектом, показало, что в среднем они правильно идентифицировали дикорастущие грибы только в 50% случаев. В некоторых случаях приложения ошибочно выдавали токсичные грибы за съедобные.

Однако отсутствие у искусственного интеллекта опыта в идентификации грибов не ограничивается только приложениями. Клейпул утверждает, что в 2023 году Amazon был переполнен книгами по сбору грибов, созданными искусственным интеллектом, многие из которых содержали неверную и потенциально опасную информацию. Некоторые книги о поиске грибов на Amazon якобы не содержали никаких указаний на то, что они были написаны искусственным интеллектом, сообщили тогда 404 СМИ.

“Amazon и другие торговые точки наводнены книгами за авторством искусственного интеллекта по поиску пищи и идентификации”, - сообщило Нью-Йоркское микологическое общество в посте на X, ранее известном как Twitter, в августе 2023 года. “Пожалуйста, покупайте книги только известных авторов и собирателей, это может буквально означать жизнь или смерть”.

Интеграция искусственного интеллекта в поиск также вызывает беспокойство, отмечается в отчете Public Citizen. Например, в прошлом году Google предоставил пользователю пошаговые инструкции по приготовлению amanita ocreata, смертельно опасного и токсичного гриба. Известно также, что генеративный ИИ создает неверные изображения определенных видов грибов, что, по словам Клейпула, может сбить с толку начинающих грибоводов.

В целом, Клейпул говорит, что идентификация грибов - лишь один из многих примеров, когда чрезмерное упование на технологию искусственного интеллекта может привести к вреду.

“Независимо от того, что могут обещать компаниям маркетинговые технологии искусственного интеллекта, автоматизация индивидуальной экспертизы пока невозможна - и, возможно, никогда не будет реализована”, – пишет он.