Google отключил функцию генерации фото в ИИ из-за фейка о сенаторе

Компания Google была вынуждена временно отключить в своем новом искусственном интеллекте Gemma функцию генерации изображений людей. Это произошло после вопиющего случая, когда нейросеть создала и распространила ложное и порочащее изображение американского сенатора Марши Блэкберн.

Искусственный интеллект сгенерировал изображение, на котором сенатор Блэкберн была изображена с ружьем рядом с мертвым орлом, сообщает The Verge. Изображение сопровождалось подписью, в которой утверждалось, что Федеральное бюро расследований разыскивает ее за убийство орла. Эта информация является полностью вымышленной «галлюцинацией» нейросети.

Представитель Google признал, что произошел «сбой» в работе их систем, и принес извинения сенатору. В компании заявили, что предпринимают немедленные действия для исправления ситуации и на время отключают возможность генерации изображений людей в Gemma. Этот инцидент произошел вскоре после другого скандала, связанного с нейросетью Gemini от Google, которую обвинили в искажении исторических фактов при создании изображений.

Сама Марша Блэкберн отреагировала на произошедшее крайне резко. Она назвала этот инцидент «новым дном» и примером безответственности технологических гигантов, способных вмешиваться в политические процессы и выборы. Сенатор потребовала от генерального директора Google немедленных объяснений.

Этот случай вновь привлек внимание общественности к проблеме дипфейков и распространения дезинформации с помощью искусственного интеллекта. Он поднимает серьезные вопросы об ответственности технологических корпораций за действия их продуктов, особенно когда речь идет о создании и распространении ложной информации, наносящей ущерб репутации публичных деятелей.