Google удалил ИИ-обзоры о медицинских анализах из-за риска для здоровья

Google удалил некоторые ИИ-обзоры, которые выдавались пользователям при поиске информации о результатах медицинских анализов, как сообщает Guardian. По данным издания, эти обзоры, генерируемые нейросетью, могли давать неверные интерпретации показателей анализов и создавать опасные для здоровья ошибки. В частности, при запросе о результатах анализов на выявление патологий печени, ИИ выдавал ложную информацию, способную дезориентировать пациентов с серьезными нарушениями и заставить их недооценивать серьезность ситуации.

Изначально Google заявляла, что ее ИИ-обзоры являются «полезными» и «надежными», однако после анализа Guardian компания признала, что некоторые ответы содержали неточную информацию о здоровье, подвергая пользователей риску. Журналисты привели примеры, когда ИИ произвольно компилировал данные из различных источников, игнорируя контекст, что могло ввести людей в заблуждение.

Эксперты опасаются, что ИИ-обзоры могут создать у тяжело больных пациентов ложное впечатление об их состоянии, например, заставить пациентов с заболеваниями печени отложить обращение к врачу. Несмотря на первоначальные возражения, Google удалила обзоры по запросам «нормальный диапазон анализов крови на функцию печени» и «нормальный диапазон анализов функции печени».

Представитель Google заявил, что ИИ-обзоры выдаются только по запросам, где компания имеет «высокую степень уверенности», а качество ответов постоянно проверяется. Однако эксперты считают, что даже корректно изложенные данные, не предупреждающие о необходимости обращения к врачу, могут представлять опасность.