Тот факт, что ИИ Gemini от Google представляет собой полный беспорядок, не удивляет никого, кто обращает на это внимание.
Учитывая внутреннюю культуру Google и тот факт, что большие языковые модели (LLM) во многом являются отражением их создателей, Gemini стал предсказуемым цифровым плакатом расистской, антибелой, антиконсервативной, исторической ревизионистской культуры – в отличие от нейтральные поставщики информации, которыми они себя называют.
Снятие маски, как говорится.
На самом деле, мы не могли бы резюмировать это лучше, чем Марио Юрич, директор Института DiRAC Вашингтонского университета в Сиэтле.
В длинном посте на X Юрич говорит, что, несмотря на то, что известно, что «там работает много хороших людей», он « покончил с @Google».
Все это стоит прочитать ниже (выделено нами):
Я читал сообщения Google о борьбе с повреждениями Gemini. Я думаю, они просто не говорят правду. Во-первых, их текстовый продукт имеет те же (если не худшие) проблемы. И во-вторых, если вы немного разбираетесь в том, как строятся эти модели, вы знаете, что не получите эти «неправильные» ответы из-за разовых невинных ошибок. Результаты Gemini отражают много-много лет работы по маркировке, обучению, точной настройке, оперативному проектированию, контролю качества/проверке – все это итеративно направлялось командой, которая это создала . Вы также можете быть уверены, что перед выпуском многие люди опробовали продукт внутри компании, что многие демо-версии были переданы старшим менеджерам по проектам и вице-президентам, что все они считали, что все в порядке , и что все они в конечном итоге подписали выпуск. Учитывая все вышесказанное, баланс вероятностей категорически против того, чтобы результаты были невинной ошибкой , как сейчас пытается представить @googlepubpolicy: Gemini — это продукт, который функционирует точно так, как задумано , и точно отражает ценности, которые создали люди. это.
Эти ценности, по-видимому, включают в себя желание изменить мир определенным образом, настолько сильное, что оно позволило вовлеченным людям убедить себя в том, что не только приемлемо, но и желательно научить свой ИИ расставлять приоритеты идеологии, прежде чем предоставлять пользователю факты. Пересмотреть историю, запутать настоящее и откровенно скрыть информацию, которая не соответствует представлению компании (персонала) о том, что такое «хорошо». Меня не волнует, могут ли некоторые из этих идеологий совпадать или не совпадать с вашими или моими представлениями о том, что могло бы сделать мир лучше: любому, кто хоть немного знаком с историей человечества, должно быть ясно, насколько невероятно безответственно это построить систему, которая стремится стать авторитетным сборником человеческих знаний (помните заявление о миссии Google?), но которая фактически ставит идеологию выше фактов . История полна множеством примеров такого рода моральной гибкости «ради общего блага»; вместо того, чтобы помочь, они обычно приводили к десятилетиям неудач (и десяткам миллионов жертв).
Если оставить в стороне социальную безответственность, то в чисто деловом смысле крайне глупо создавать продукт, в котором социальная программа вашей компании будет явно поставлена выше потребностей клиента. Подумайте об этом: G's Search, несмотря на все свои проблемы, воспринимался как хороший инструмент, поскольку его цель заключалась в предоставлении точной и полезной информации. Его миссия соответствовала целям пользователей («дать мне правильный ответ на то, что мне нужно, и быстро!»). Вот почему мы все его используем. Я всегда предполагал, что усилия Google по искусственному интеллекту будут следовать шаблону, который перенесет базу пользователей и зафиксирует еще одно-два десятилетия доминирования.
Но они сделали обратное. После Gemini, а не как компания, ориентированная на пользователя, Google будет восприниматься в первую очередь как организация-активист, готовая лгать пользователю, чтобы продвигать свою (сотрудников) социальную программу . Это огромно. Вы бы наняли личного помощника, у которого открыто есть несогласованные (и секретные — они скрывают подсказки системы) планы, которому вы принципиально не можете доверять? Кто твердо верит, что знает лучше вас? Кто, как вы подозреваете, будет тайно лгать вам (напрямую или через умалчивание), когда ваши интересы расходятся? Забудьте о файлах cookie, рекламе, проблемах конфиденциальности или модерации контента YouTube; Google только что заставил более 50% населения пройти через этот сценарий и усомниться в надежности основного бизнеса и людей, которые им управляют. И не на типичном финансовом («с меня грабят!») уровне, а на идеологическом («таких как я ненавидят!»). ИМХО, восстановить будет сложно.
А что насчет будущего? Взгляните на Принципы ответственности ИИ Google ( https://ai.google/responsibility/principles/ ) и спросите себя, как бы выглядел Поиск, если бы сотрудникам, которые представили вам Gemini, было поручено интерпретировать их и соответствующим образом перестроить? Вы бы доверяли этому продукту? Вы бы использовали его? Что ж, учитывая обещание Google везде включать Gemini, именно это мы и получим ( https://technologyreview.com/2024/02/08/1087911/googles-gemini-is-now-i… ). В этом дивном новом мире каждый раз, когда вы запускаете поиск, вы будете спрашивать себя: «Он сказал мне правду, или он солгал, или что-то скрыл?». Это смертельно опасно для компании, построенной на организации информации.
И именно поэтому с этих выходных я начал разводиться со своей личной жизнью и выводить свою информацию из экосистемы Google. Вероятно, это займет около года (инвестируя почти во все, от поиска до пикселей, помощника и более малоизвестных вещей, таких как голосовая связь), но это необходимо сделать. И все же очень, очень грустно...
Между тем, Гэвин Бейкер, управляющий партнер/директор по информационным технологиям компании Atreides Management, LP, направляет остроту, чтобы указать, что «быть аполитичным или центристским человеком становится значительным конкурентным преимуществом для компаний».
Прочитайте полностью его превосходный пост о X ниже (курсив наш):
Аполитичность или центризм становятся для компаний значительным конкурентным преимуществом.
Gemini — это первый случай, когда GPT-4 был превзойден, однако запуск оказался полной катастрофой, и продукт, скорее всего, будет снят с рынка из-за заложенной в него идеологии.
Когда эта идеология не является глубоко расистской или антиисторической, она просто абсурдна : микроагрессия по вреду сравнима с термоядерным взрывом и т. д.
По иронии судьбы, если бы Google просто следовал своей миссии «организовать мировую информацию, чтобы сделать ее универсально доступной и полезной», они бы добились триумфального запуска продукта.
Вместо этого им почти наверняка придется отказаться от продукта так же, как Microsoft давно пришлось отказаться от Тэя . До сих пор их пиар-направление было сосредоточено на создании изображений, но продукт создания текста гораздо хуже с точки зрения расизма и абсурда. Ничто в идеологии, встроенной в Близнецов, не является «полезным».
Gemini 1.5 Pro показал, что у Google есть технологические возможности для защиты своей поисковой системы; только идеология стоит на пути долгого, медленного и позорного упадка.
Здесь существует реальный риск «Bud Light», если не принять быстрых и решительных действий.
Комментариев нет:
Отправить комментарий