Водяные знаки ChatGPT могут защитить от дезинформации

Водяные знаки ChatGPT, DALL-E и других генеративных ИИ могут помочь защитить от мошенничества и дезинформации. Вскоре после того, как просочились слухи о готовящемся обвинении бывшего президента Дональда Трампа, в сети появились изображения, якобы демонстрирующие его арест. Эти изображения выглядели как новостные фотографии, но они были поддельными. Они были созданы генеративной системой искусственного интеллекта. Генеративный ИИ в виде генераторов изображений, таких как DALL-E , Midjourney и Stable Diffusion , и текстовых генераторов, таких как Bard , ChatGPT , Chinchilla и LLaMA , взорвался в публичной сфере. Сочетая хитроумные алгоритмы машинного обучения с миллиардами фрагментов контента, созданного людьми, эти системы могут делать все, что угодно: от создания устрашающе реалистичного изображения из подписи до синтезирования речи голосом президента Джо Байдена, замены одного человека на другого в видео. , или напишите связную статью из 800 слов из подсказки в заголовке. Даже в наши дни генеративный ИИ способен создавать очень реалистичный контент. Моя коллега Софи Найтингейл и я обнаружили, что средний человек не может надежно отличить изображение реального человека от человека, созданного искусственным интеллектом. Хотя аудио и видео еще не полностью прошли через зловещую долину — изображения или модели людей, которые тревожат, потому что они близки, но не совсем реалистичны — они, вероятно, скоро это сделают. Когда это произойдет, а это практически гарантировано, искажать реальность будет все легче. В этом новом мире будет совсем несложно создать видео, в котором генеральный директор говорит, что прибыль ее компании упала на 20%, что может привести к миллиардным потерям доли рынка, или создать видео, в котором мировой лидер угрожает военными действиями. что может спровоцировать геополитический кризис или вставить чье-либо изображение в видео сексуального характера. Достижения в области генеративного искусственного интеллекта вскоре приведут к тому, что поддельный, но визуально убедительный контент будет распространяться в Интернете, что приведет к еще более запутанной информационной экосистеме. Вторичным последствием является то, что недоброжелатели смогут легко отклонить как фальшивые реальные видеодоказательства всего, от полицейского насилия и нарушений прав человека до сжигания сверхсекретных документов мировым лидером. По мере того, как общество смотрит вниз на то, что почти наверняка является только началом этих достижений в области генеративного ИИ, существуют разумные и технологически осуществимые меры, которые можно использовать для смягчения этих злоупотреблений. Как ученый-компьютерщик, специализирующийся на криминалистике изображений ...

Читайте полную новость на android-robot.com

Опубликовано: 18:00, 30.03.2023

Новость из рубрики: Интернет, Игры

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа