Midjourney, инструмент искусственного интеллекта, который может генерировать изображения из текстового ввода, борется со злоупотреблениями. Инструмент, который недавно был выпущен в Midjourney v5, добился огромного прогресса и начал создавать визуальные эффекты, которые почти неотличимы от реальных вещей. Люди начали использовать это высокое качество для создания поддельных изображений, которые мы называем «дипфейками». Вот почему Midjourney прекратила бесплатные пробные версии.

Генеральный директор Дэвид Хольц заявил в Discord, что компания прекращает бесплатные пробные версии из-за «чрезвычайного спроса и злоупотреблений». Хольц добавил, что нынешних мер недостаточно для пресечения злоупотреблений. На данный момент вам нужно платить не менее 10 долларов в месяц, чтобы использовать Midjourney. В последние недели Midjourney оказалась в центре нежелательного внимания. Пользователи выложили фальшивые изображения арестованных Дональда Трампа и Папы Франциска в модной куртке. Хотя внимательные глаза понимали, что изображения были фальшивыми, особенно образ Папы был воспринят массами как настоящий. Следовательно, Midjourney, DALL-E от OpenAI и аналогичные искусственные интеллекты, генерирующие изображения, все чаще используются для распространения дезинформации.

В разговоре с пользователями в среду Хольц сказал, что у них возникают трудности с определением политики в отношении контента, поскольку искусственный интеллект обеспечивает более реалистичные изображения, чем когда-либо прежде. Генеральный директор также заявил, что они надеются разработать аудитора с искусственным интеллектом, который выявляет злоупотребления в середине пути. Как мы упоминали в наших предыдущих новостях, Илон Маск, Стив Возняк и тысячи других экспертов в своих областях в открытом письме передали сторонам, что исследования искусственного интеллекта должны быть немедленно прекращены. Похоже, что существует серьезная потребность в искусственном интеллекте, который обнаруживает результаты искусственного интеллекта. В частности, интеграция систем, которые могут различать, является ли изображение реальным или поддельным на платформах социальных сетей, может предотвратить возмущение. Не только социальные сети, но и продуктивный искусственный интеллект стали использовать в экзаменах, заданиях и даже научных статьях.