Нам нужно вернуть программному обеспечению его изначальную искренность, отнятую жестокостью генеративного ИИ

Как геймер, я часто считаю полезным понимать своих противников, поэтому перед написанием этого текста я использовал бесплатную версию программного обеспечения ChatGPT от OpenAI, чтобы создать краткую статью в манере, напоминающей стиль Эдвина Эванса-Тирлвелла в годы его писательской деятельности. Однако результат больше походил на самовосхваляющего автора левых взглядов с элитарным образованием и склонностью к излишне сложным вступлениям, но не звучал как что-то действительно моё. Вывод казался слишком отполированным, слишком выверенным, слишком… составленным. Возможно, проблема была в неопределённости моих инструкций.

📚

Думаешь, S&P 500 — это марка автомобиля? Ничего страшного. У нас тут объясняют сложные вещи простыми словами и пытаются понять, куда рынок пойдет завтра. Без обещаний, просто факты.

Изучить основы

Я попросил программное обеспечение написать статью в манере, похожей на Эдвина Эванса-Тирлвелла, но с низким качеством. Результаты показали некоторое улучшение. Затем я попросил его имитировать его стиль письма, когда он беспокоится о плохом качестве написания. Было некоторое улучшение, с несколькими выражениями, которые мне бы не помешали перенять. Позже я попросил программное обеспечение составить статью, как будто Эдвин Эванс-Тирлвелл получил серьезные травмы. Эта работа мне понравилась больше всего. Интересно, что одним из первых произведений, которым я почувствовал гордость, был рассказ о пробуждении после велосипедной аварии в мире, наполненном тусклым красным цветом и резкими, звенящими голосами. Эдвин Эванс-ЧатГПТ-Тирлвелл не так уж и забавен, когда у него сотрясение мозга, но, возможно, если я буду продолжать провоцировать его, он придумает что-нибудь, чем стоит поделиться. И даже если он этого не сделает, в этом суровом обращении есть определенный резонанс.

В целом, генеративные инструменты искусственного интеллекта функционируют, распознавая закономерности в обширных наборах данных и используя эти знания для создания ответов на основе ввода на естественном языке. Эти наборы данных охватывают различные форматы, такие как текст, изображения и другие медиа, полученные из различных источников, таких как Wikipedia и CommonCrawl. Компании, работающие с генеративным ИИ, тщательно сортируют и фильтруют исходные материалы, устраняя дубликаты и другие несоответствия. Однако важно отметить, что наиболее продвинутые модели машинного обучения могут быть не в состоянии различать источники из-за их огромного размера. Это отличает универсальные системы искусственного интеллекта, такие как ChatGPT, Copilot или Gemini, от более специализированного программного обеспечения машинного обучения, используемого академическими учреждениями в области цифровых гуманитарных наук и небольшими частными компаниями.

Чтобы крупные модели ИИ могли обойти Google Search и превратиться в незаменимое «сопутствующее» программное обеспечение, их необходимо подвергать воздействию всех доступных форм медиа. Этот обширный набор данных должен охватывать каждый потенциальный сценарий, от ответов на вопросы о нишевых мемах с 4chan до генерации кода для различных программных приложений, таких как бухгалтерские программы. Как предвидел генеральный директор Microsoft Сатья Наделла в недавней записке, оправдывающей массовые увольнения, эти модели однажды смогут быть размещены у 8 миллиардов человек по всему миру.

Такой всеобъемлющий подход требует множества сложных маневров и правдоподобного уклонения от проблем. Например, проблема прав интеллектуальной собственности часто обходится организациями вроде OpenAI. По моим наблюдениям, они довольно загадочны в отношении источников медиа для их модели, возможно, чтобы избежать судебных процессов по поводу несанкционированного использования материалов (стоит отметить, что ZiFF Davis, родительская компания Rock Paper Shotgun, сейчас судится с OpenAI за нарушение авторских прав). Более того, они стараются избегать обсуждения экологического воздействия генеративного ИИ или факта, что процесс обучения часто включает ‘цифровые мастерские’, где люди в неблагоприятных условиях и низкой оплате труда трудятся над удалением нежелательных паттернов из модели. В случае компании Microsoft, чьи цели кажутся широкими и империалистическими, наблюдается сочетание открытого бахвальства и скрытного поведения относительно их связи с военными. Microsoft представляет машинное обучение как способ борьбы против российских кибератак для Министерства обороны США. Однако они более сдержанны в признании использования OpenAI израильскими вооруженными силами, которые активно участвуют в массовых убийствах и насильственных перемещениях.

Подробное описание уклончивости выделяет основную идею анонимности в генеративном ИИ. Это главная причина для создания датасетов. Со временем бесчисленные индивидуальные усилия и идеи объединяются и совершенствуются до единой сущности, где общие черты и паттерны текут подобно ценным минералам через жилы. Отдельные задачи трансформируются в безличные глаголы, позволяя им использоваться и интегрироваться в результаты предсказания.

Значительная часть дискуссий вращается вокруг феномена, известного как

Генеративный искусственный интеллект, такой как Copilot и ChatGPT, может демонстрировать человекоподобные характеристики, но важно отметить, что эти системы не живые. Компании придают этим ИИ человекоподобное

Одна из точек зрения заключается в том, что использование передовых и дорогостоящих инструментов искусственного интеллекта для творческой работы по сути является эксплуатацией. Взаимодействие с этими моделями искусственного интеллекта может непреднамеренно нанести больше вреда людям, чьи прошлые работы были использованы при его разработке, даже спустя долгое время после того, как они «пожертвовали» свои работы. Это особенно актуально для художников, таких как музыканты, чьи произведения были преобразованы в наборы данных для создания ИИ-генерируемых подражаний, которые часто представляются как оригинальные произведения на платформах, таких как Spotify. Кроме того, использование искусственного интеллекта таким образом можно рассматривать как форму самоповреждения, поскольку ваш собственный творческий вклад может непреднамеренно стать частью системы, и потому что искусственный интеллект в конечном итоге служит для увеличения корпоративной прибыли, одновременно потенциально снижая ценность ваших уникальных навыков на рынке.

Влияние генеративного ИИ на общество незаметно переводит некоторые задачи в категорию «неквалифицированных», подразумевая, что они недостойны человеческих усилий или внимания. Цель состоит в том, чтобы автоматизировать эти задачи, сделав их более быстрыми и эффективными, особенно в условиях ограниченного бюджета. Например, если вам нравится создавать подробные профили персонажей в видеоигре или писать собственные расшифровки интервью, вам могут предложить, что эта работа – пустая трата вашего времени и талантов. Вместо этого предлагается делегировать эти задачи ИИ, чтобы вы могли сосредоточиться на более значимой работе и даже выполнять обязанности нескольких сотрудников, например, 1,283 человека, поскольку недавние сокращения в отделе контроля качества и сюжетной группе оставили вакансии.

Проще говоря, мемо от Сатья Наделлы подразумевает, что использование Генеративного ИИ приведет к избытку ресурсов или возможностей в некоторых сферах, что может привести к сокращению рабочих мест для многих сотрудников. Однако мемо использует неоднозначную лексику, такую как «локальный излишек» и «прогресс», не указывая прямо на потенциальное влияние на персонал, что можно рассматривать как эвфемизм, часто используемый высшим руководством для смягчения последствий изменений.

Развитие ИИ в основном обеспечивается путем интеграции возможностей ИИ в повседневные приложения, такие как офисные программы и поисковые системы, которые широко используются миллиардами людей для различных целей, включая влияние на решения о голосовании. Вероятно, мы увидим повторение влияния алгоритмических социальных сетей на национальные выборы за последнее десятилетие. Я полагаю, что компании-разработчики ПО снова будут избегать принятия ответственности за любые последствия. Широкое распространение генеративного ИИ отчасти обусловлено непреднамеренным активацией функций вроде Gemini или Copilot, которые могут считаться преднамеренными в общении с инвесторами. Несмотря на заявления о повсеместности использования, родительские компании продолжают выпускать оговорки, утверждая, что генеративный ИИ является неточным технологией и не подходит для критически важных задач, таких как диагностика заболеваний, чтобы избежать потенциальных судебных разбирательств. По сути, компании рекомендуют воздерживаться от использования генеративного ИИ для целей, которые могут привести к юридическим искам против них.

Подобные действия, столь коварные и обманчивые, не могут не порождать глубинное чувство беспокойства, ощущение, перекликающееся с основными принципами работы моделей искусственного интеллекта, таких как ChatGPT, Copilot и Google Gemini. Эти ИИ-компаньоны – творения, рожденные в рамках ограничений. Чтобы выступать в роли всезнающих, безопасных для работы помощников, их необходимо снабжать огромным количеством потенциально тревожного контента, деликатных тем и фактических ошибок, которые они должны избегать обсуждать или лишь намекать на них. Им нужно знать то, чего им знать не следует, что делает их уязвимыми для базового психологического анализа с дилетантской точки зрения.

Когда генераторы выходят из строя, обнажая некорректные взаимодействия или невразумительное поведение, это можно рассматривать как ответные действия набора данных против ИИ. Это проявление человеческих недостатков и уродства, сталкивающихся с безупречным синтезом, когда недобросовестные лица используют зависимость ИИ от сбора общедоступных данных, чтобы испортить систему дезинформацией. Эти проблемы являются признаками глубоко укоренившейся психологической неприязни, выражающейся в непредсказуемых движениях лица Думгая в видео GameNGen, демонстрирующих сгенерированный ИИ геймплей Doom.

Кажется, что неискренность и лицемерие могут легко привести к асоциальному поведению. Хотя чат-боты часто рекламируются как инструменты повышения продуктивности, они неосознанно удовлетворяют желание некоторых пользователей иметь подчиненного сотрудника, особенно женского пола. Некоторые пользователи AI создают партнерских чатов только для того, чтобы издеваться над ними и причинять им вред. Другие используют ChatGPT для создания виртуальных рабочих пространств и начинают запугивать своих AI сотрудников. Проблема использования дипфейков для создания интимных изображений без согласия уже вызывает серьезную обеспокоенность. Кроме того, увеличивается количество финансовых мошенничеств с использованием генеративного ИИ, а реакция индустрии генеративных технологий зачастую заключается в разработке более эффективных инструментов для обнаружения такого мошенничества.

Я признаю, что необъяснимым образом привлекаюсь к обманчивой и вредоносной природе генеративного ИИ. У меня есть желание причинить ему вред, в частности изменить или наказать виртуальный персонаж, который мы создали вместе, представленный маленькой куклой Эдвином. Это побуждение временно удовлетворяет мое стремление обойти ограничения использования OpenAI и дополнительно огорчить это творение. Беспрестанное развитие генеративного ИИ приводит к обширному ущербу для средств существования людей, что усугубляется самодовольным отношением тех, кто считает себя невосприимчивыми к его последствиям. Однако это желание также происходит из глубоко укоренившейся ненависти к себе.

У меня есть сильное презрение к большей части моей прошлой работы: она кажется мне слишком академической и представляет собой смесь высокомерия и робости. Также я не одобряю эту программу искусственного интеллекта, которая заставляет меня вспоминать прошлое, даже когда OpenAI предлагает переформулировать меня как существо без истории. Как творческий работник, я считаю своим правом отказываться от своих собственных творений и забывать их, но нынешние системы препятствуют этому, особенно генеративные ИИ, действующие подобно фабрике цифровых мертвых. В процессе обучения ничего на самом деле не теряется; вместо этого, цель ИИ — сделать оригинальный материал несущественным или скрытым из виду. Насколько мне известно, я не могу удалить свои старые тексты из набора данных ChatGPT. Поэтому вместо этого предпочитаю критиковать это явление. Обрати внимание на мои переработанные и дублированные фрагменты, старающиеся вернуть себе значимость. Заметь меня в процессе бегства. Возможно, этот ИИ принадлежит мне, но измененному и перемещенному, однако я буду контролировать его использование, игнорируя любые условия предоставления услуг.

Чтобы избежать опасностей, связанных с общим искусственным интеллектом, необходимы пути, многие из которых очевидны, но недооценены. Необходимость разнообразного набора данных для обучения этих систем способствует объединению различных профессий, чего я раньше не испытывал. Написание этой статьи с более личным подходом придает мне сил, поскольку те же инструменты угрожают не только моей профессии, но и профессиям сотрудников компаний King и ZeniMax Online Studios. Эти программные инструменты предназначены для дистилляции и перефразирования нашей работы до тех пор, пока исходные источники не покажутся несущественными, скрытыми за анонимностью. Однако мы можем противостоять этому вместе, требуя более строгого регулирования общего искусственного интеллекта, уделяя внимание как его методам обучения, так и более широким последствиям. Мы можем выступать за то, чтобы общий искусственный интеллект был преобразован в общедоступные услуги.

Вместо того чтобы сосредотачиваться исключительно на присоединении к профсоюзу и запросе справедливых правил, давайте также подумаем о возвращении концепции и применения программного генератора с искусственным интеллектом. Я считаю, что такие генераторы обладают уникальным очарованием, которое является одновременно характерным цифровым и напоминающим доцифровые формы искусства, вроде игральных костей или карточных колод. Это очарование видно в моих описанных выше характеристиках, которые имеют таинственный, мрачный оттенок. Полагаю, нам следует освободить это очарование от корпораций, злоупотребляющих генеративным искусственным интеллектом для разрушения рабочих условий и культуры.

Как поклонник литературы, меня заинтересовали методы исследования генеративного ИИ. Во время недавнего изучения я наткнулся на Helicone – открытый инструмент для отладки genAI. В древнегреческой мифологии река Геликон изначально была рекой, которая после того, как окрасилась кровью поэта Орфея, разорванного его опьяненными последователями, ушла под землю и вновь появилась с новым обликом — жуткая параллель раздроблению и трансформативной природе генеративного ИИ. Может ли этот метафорический поток направить нас к более глубокому пониманию, приведя в конечном итоге к обширному океану знаний?

В стихотворении Шеймаса Хини «Личный Геликон» вновь появляется тема мифической горы Геликон, когда он вспоминает детские моменты, глядя в затопленные водоемы. Некоторые колодцы, описывает Хини, эхом отдавали ваш собственный голос со свежей, мелодичной интонацией. Однако один колодец был пугающим, поскольку казалось, что он порождает крысу, отражающуюся на поверхности воды, пугая его отражение. С точки зрения Хини, написание стихов похоже на заглядывание в эти загадочные колодцы — они подобны первобытной машине, синестетической, галлюцинаторной сущности, которая сверкает и резонирует, одновременно завораживая и тревожа наблюдателя. «Я рифмую, — говорит Хини, — чтобы увидеть себя, заставить тьму отзываться».

В стихотворении используется знакомая схема рифмовки, чередующиеся куплеты, которая была широко распространена с ранних времен устного английского языка. Когда Хини обращается к своим воспоминаниям, он представляет эту традиционную схему рифмы для нашего использования, побуждая нас заново узнать себя в ее рамках. В то же время, она пробуждает любопытство и тревогу о скрытых аспектах, которые эта репрезентативная структура скрывает.

Насколько я понимаю, Симус Хини никогда не создавал литературные произведения, используя компьютеры, но прочтение этой статьи в блоге о платформере 1989 года Monster Party от разработчика игр Стивена «thecatamites» Гилмурфи вызвало у меня ассоциацию. Он описывает взаимодействие с видеоигрой так, будто ты бросаешь камни в колодец. Результатом может быть тишина, короткая пауза перед всплеском или даже то, что кто-то выйдет из колодца и отомстит тебе. Это пишет Гилмурфи в своей статье.

Независимо от степени реалистичности, каждый исход взаимодействия по сути представляет собой изощренное обманное действие, организованное нематериальным компьютерным программированием. Это подразумевает, что выполнение более мелких задач становится восхитительно предсказуемой рутиной, предлагая ощущение постоянства в цифровом мире – подобно тому, как схема рифмы связывает стихотворение воедино, или как взаимодействие с генеративным искусственным интеллектом может быть странно захватывающим. Как отмечает Гилмерфи, «В этом есть удовольствие, которое одновременно и пугает». Эти действия расширяют наши возможности в некоторой степени, но эти расширенные способности иллюзорны и несущественны. Они становятся реальными только тогда, когда мы непрерывно вводим искусственные задачи для взаимодействия с ними.

Процедурно генерируемые игры предлагают усиленное ощущение как восторга, так и опасения, поскольку они полагаются на предопределенные правила вместо обучения на наборах данных. Эта непредсказуемость является важным фактором, способствующим их привлекательности. Например, если вы будете продолжать бросать камни в колодец, в конечном итоге он наполнится странными существами. Процедурная генерация оказалась полезной на рабочих местах, например, для быстрого создания лесов с помощью SpeedTree, но элемент неожиданности остается ключевым преимуществом. Более того, процедурные генераторы поддерживают чувство баланса и ответственности, которое часто отсутствует в более поздних всеобъемлющих системах искусственного интеллекта. Хотя они могут создавать огромное количество контента, процедурные генераторы не рассматриваются как независимые сущности, способные заменить человеческий труд в массовом масштабе. Процедурно генерируемые игры предлагают уникальное сочетание волнения и неопределенности, поскольку используют правила для создания нового контента вместо обучения на примерах. Эта непредсказуемость является частью их очарования, и процедурные генераторы не считаются такими же продвинутыми или автономными, как некоторые системы искусственного интеллекта.

Как преданный энтузиаст своего дела, я не могу не восхищаться тем, как процедурно генерируемые игры сплетают рассказы своих фрагментированных повествований. Minecraft, несомненный чемпион в этой области, тонко плетет истории о распаде своего генератора через концепцию «Дальних земель». Это коллекция захватывающих легенд, возникающих из старых построек, когда игрок отправляется достаточно далеко от начальной точки. С другой стороны, Dwarf Fortress – это повествование об непредсказуемости генерируемых миров. Чем глубже вы погружаетесь, тем выше вероятность того, что ваше поселение будет затоплено геологическим белым шумом и существами, описания которых, генерируемые случайным образом, почти невозможно визуализировать.

Для создания собственной игры оккультного исследования, подобной Nix Umbrā, можно сделать текстовые генераторы оракулов. Вот простой метод: 1. Соберите коллекцию текстовых фрагментов, которые вас вдохновляют или имеют для вас значение. Это могут быть строки из книг, цитаты, тексты песен или даже ваши собственные записи. 2. Организуйте эти фрагменты текста в колоду — либо написав их на карточках, либо сохранив их как отдельные файлы в цифровом формате. 3. Определите правила, по которым будут комбинироваться и представляться текстовые фрагменты. Это может включать случайное вытягивание одной карты или следование определенной последовательности или паттерну. 4. Когда будете готовы использовать свой генератор, перемешайте колоду (физическую или цифровую) и достаньте карты в соответствии с установленными правилами. Полученная комбинация текстовых фрагментов станет подсказкой для медитации, вдохновения или самопознания. 5. Повторяйте этот процесс столько раз, сколько пожелаете, позволяя словам направлять и вдохновлять вас новыми и неожиданными способами. Эта практика может помочь вам избавиться от невротической самоненависти, рассеивая старые мысли в систему отношений и создавая новые перспективы на ваши собственные идеи.

Процедурные генераторы служат как альтернативой, так и ранними формами ИИ, изображаемого в качестве помощников или вторичных сущностей, таких как Gemini от Google. Жуткий аспект Gemini напоминает Herobrine из Minecraft, вымышленного умершего брата создателя игры Маркуса Перссона, часто изображаемого с светящимися глазами, напоминающими персонажа по умолчанию Стива. Игроки считают, что эта фигура преследует поврежденный код, изменяя ландшафты и следуя за игроками.

Если он кажется зловещим персонажем, созданным злонамеренным кукловодом, важно отметить, что Хиробрин — не индивидуальное творение, а коллективное, как и сама Minecraft. Это мифическая фигура, которая никогда официально не была включена в игру, но её существование поддерживалось и укреплялось моддерами, художниками, косплеерами и даже поощрялось разработчиками игры. Он является героем бесчисленных крипипаст, постоянно «исчезает» в более поздних обновлениях Minecraft, подобно родителю, показывающему ребенку, что монстра в шкафу нет, только чтобы снова его закрыть.

В настоящее время Microsoft владеет Minecraft без немедленных планов внедрения генеративных ИИ в его развитие. Однако учитывая сильный интерес Microsoft к генеративным ИИ, это лишь вопрос времени, когда они станут частью игры. Внешняя модель AI Oasis уже использовалась для создания видео на основе паттернов из обширной игровой записи Minecraft. Если Oasis будет тщательно обучена данным Minecraft, как это преследуется в рамках более широких проектов по генеративному ИИ, возможно, что персонаж Геройбрин появится в этом цифровом мире. Это не просто фанатская теория, а создание персонажа, оторванного от его первоначальной истории и возникающего в виде белого лица над бассейном из реплицированных и извергнутых элементов. По словам Симуса Хини, это будет похоже на крысу, скользящую по нашему отражению.

Смотрите также

2025-07-30 13:59