>>5331059
>>5331059
В докладе "Растущий риск: Ненадежные ИИ-инструменты генерируют дезинформацию о грибах", написанном Риком Клейпулом и опубликованном организацией Public Citizen, подробно изложены опасности, возникающие в связи с использованием новейших технологий искусственного интеллекта в области идентификации грибов. Основная идея этого предостерегающего исследования заключается в том, что современные системы ИИ не способны воспроизвести тонкие нюансы реальных навыков, необходимых для различения съедобных и токсичных грибов, задача которой связана с высокими рисками из-за врожденной опасности сбора грибов.
Доклад освещает несколько ключевых моментов, начиная с случаев, когда доверие к технологиям ИИ приводило к серьезным последствиям для здоровья. Освещается явление переполнения рынка Amazon книгами, созданными с помощью ИИ, что побудило компанию ввести ограничения на самостоятельную публикацию, подчеркивая трудности различения достоверной информации в условиях растущей автоматизации. Особенно острая проблема поднята в связи с неправомерным использованием систем OpenAI ChatGPT и DALL-E для создания чат-ботов по идентификации грибов, способных генерировать путающую и опасную дезинформацию.
Основной аргумент доклада касается неотложной необходимости прозрачности и ответственности со стороны компаний, развертывающих эти технологии ИИ. Утверждается, что компании должны не только раскрывать использование ИИ, но и активно напоминать пользователям о ограниченности технологии. В докладе высказывается мнение, что компании должны нести ответственность за ущерб, вызванный полаганием на ложные или обманчивые сведения, генерируемые ИИ, и выступает против использования договорных условий, освобождающих их от ответственности.
