Никто не спорит: искусственный интеллект (ИИ) — удобная штука для множества вещей. При этом кто бы и что бы не говорил, ни один вменяемый человек сегодня ни за что не станет доверять ему ничего серьёзного, особенно — связанного со здоровьем или деньгами. Тем не менее находятся люди, готовые сделать «шаг веры» и позволить большим языковым моделям вроде ChatGPT или Gemini принимать за них решения. Об очередном трагическом случае народного доверия к ИИ сообщил японский ресурс japantoday.com.
Токсикологи в шоке: ведь такие случаи уже не редкость, и не только в Японии! А дело, значицца, было так.
Вполне себе здоровый и чрезмерно любознательный 70-летний житель деревни Симо-Китаяма (префектура Нара, восточная часть Западной Японии на острове Хонсю) 3 ноября в лесу напал на грибницу. Долго грибы разглядывал, но так и не мог понять, что это за грибы-то? То ли шиитаке, то ли вешенки? А необходимого эксперта рядом не оказалось. Да рядом вообще не было ни души!
На следующий день он решил показать образцы сотрудникам местного ботанического сада, чтобы точно определить вид и съедобность. Но в ботсаде сотрудники были заняты и попросили ходока не выклёвывать им мозг прямо сейчас, а зайти попозже.
Но ждать вердикта профессионалов товарищ не захотел! Моложавый дед сфотографировал грибы на смартфон и загрузил фото в одну из нейросетей. Та подтвердила его догадку: «Это шиитаке или вешенки, съедобные».
Удовлетворённый ответом, потомок самурая собрал грибы, зажарил и с яростным аппетитом съел. А примерно через 30 минут началось! Тошнота, рвота, судороги, короче, симокитаямца шементом увезли в больницу
К счастью, всё обошлось: симптомы оказались временными, оказали помощь человек полностью выздоровел.
Последующий анализ, проведённый как в Музее естественной истории (расположен в соседней префектуре Вакаяма), так и в городском отделе здравоохранения Вакаямы показал, что это были не шиитаке и уж тем более не вешенки!
Грибы являлись самыми настоящими цукиётакэ (он же — омфалот японский) — ядовитый вид грибов, который часто путают со съедобным. Один из признаков омфалота — приподнятое кольцо на ножке прямо под пластинками. Также внутри шляпки обычно бывают очень тёмные пятна, но не всегда. При этом они остаются ядовитыми даже после термической обработки — вот ведь как!
Оно конечно — рисковый симокитаямец мог бы обвинить ИИ в ошибочной идентификации, но, судя по множеству комментариев к публикации в japantoday, часть вины лежит и на нём самом. Есть же золотое правило: не уверен на 100%, не бери в рот!
Короче, известный путь, привычная дорога: природа не прощает дилетантов, а искусственный интеллект пока не способен заменить опытного специалиста. А вот сочетание двух факторов (ошибка ИИ + человеческая самоуверенность) чаще всего заканчивается реанимацией или моргом.
Как чертовски были правы новоменталитетные глашатаи нового мира — принц Гарри и Меган Маркл, которые в октябре нынешнего года присоединились к коалиции учёных и общественных деятелей, требующих ограничить развитие искусственного интеллекта и тем самым спасти мир, как они были правы!..
Комментарии: