OpenAI Удаляет функцию CHATGPT после утечки частных разговоров в Google Search

Openai сделал редкий в четверг, внезапно прекратив функцию, которая позволила пользователям CHATGPT сделать свои разговоры обнаруженными через Google и другие поисковые системы. Решение было принято в течение нескольких часов после распространенной критики в социальных сетях и представляет собой яркий пример того, как быстро проблемы конфиденциальности могут сорвать даже благонамеренные эксперименты по ИИ.

Эта функция, которую Openai описал как «недолговечный эксперимент», требовала активного выбора пользователей, поделившись чатом, а затем проверяя коробку, чтобы сделать его доступным для поиска. Тем не менее, быстрое изменение подчеркивает фундаментальную проблему, с которыми сталкивается компании искусственного интеллекта: баланс потенциальных преимуществ общих знаний с очень реальными рисками непреднамеренного воздействия данных.

Мы только что удалили функцию из @Chatgptapp Это позволило пользователям сделать свои разговоры обнаруженными поисковыми системами, такими как Google. Это был недолговечный эксперимент, чтобы помочь людям открыть полезные разговоры. Эта функция требовала, чтобы пользователи приняли участие, сначала выбрав чат … pic.twitter.com/mgi3lf05ua

— Дан (@cryps1s) 31 июля 2025 года

Как тысячи частных разговоров в чате стали результатами поиска в Google

Противоречие вспыхнуло, когда пользователи обнаружили, что могут искать Google, используя запрос «Сайт: чатгпт.com/share», чтобы найти разговоры тысяч незнакомцев с помощником искусственного интеллекта. То, что появилось, нарисовало интимный портрет того, как люди взаимодействуют с искусственным интеллектом — от мирских запросов на рекомендации по ремонту ванной комнаты до глубоко личных вопросов для здоровья и профессионально чувствительных переписываний резюме. (Учитывая личный характер этих разговоров, которые часто содержали имена, местоположения и личные обстоятельства пользователей, VentureBeat не ссылается на или детализирует конкретные обмены.)

«В конечном счете, мы думаем, что эта функция предоставила людям слишком много возможностей случайно делиться вещами, которые они не намеревались», — объяснила группа безопасности Openai, признав, что ограждения недостаточно для предотвращения неправильного использования.

Инцидент показывает критическую слепую точку в том, как компании по искусству, занимающиеся опытом работы с пользователем. В то время как технические гарантии существовали-эта функция была зарегистрирована и требовала нескольких кликов для активации-человеческий элемент оказался проблематичным. Пользователи либо не до конца понимали последствия того, чтобы сделать свои чаты, доступные для поиска, либо просто упускали из виду последствия конфиденциальности в своем энтузиазме, чтобы поделиться полезными обменами.

Как отметил один эксперт по безопасности на X: «Трение для обмена потенциальной частной информацией должно быть больше, чем флажок или нет вообще».

Хороший призыв к быстрому и ожиданию. Если мы хотим, чтобы ИИ был доступен, мы должны подсчитать, что большинство пользователей никогда не читают то, что они нажимают.

Трение для обмена потенциальной частной информацией должно быть больше, чем флажок или нет вообще. https://t.co/remhd1aaxy

— wavefnx (@wavefnx) 31 июля 2025 года

Почему Google Bard и Meta AI столкнулись с аналогичными скандалами об экспозиции данных

Проблема Openai следует за проблемой тревожного искусства в индустрии ИИ. В сентябре 2023 года Google столкнулся с аналогичной критикой, когда его беседы Bard AI начали появляться в результатах поиска, что побудило компанию реализовать меры блокировки. Мета встречалась сопоставимыми проблемами, когда некоторые пользователи Meta AI непреднамеренно разместили частные чаты в общественных каналах, несмотря на предупреждения об изменении статуса конфиденциальности.

Эти инциденты освещают более широкую задачу: компании ИИ быстро движутся, чтобы инновации и дифференцировать свои продукты, иногда за счет надежной защиты конфиденциальности. Давление для постановки новых функций и поддержания конкурентного преимущества может омрачить тщательное рассмотрение потенциальных сценариев неправильного использования.

Для лиц, принимающих решения предприятия, эта модель должна поднять серьезные вопросы о должной осмотрительности поставщика. Если потребительские продукты ИИ борются с основным контролем конфиденциальности, что это означает для бизнес-приложений, обрабатывающих конфиденциальные корпоративные данные?

Что предприятия должны знать о рисках конфиденциальности ИИ чат -бота

Противоречие CHATGPT, доступное для поиска, имеет особое значение для бизнес -пользователей, которые все чаще полагаются на помощников искусственного интеллекта для всего, от стратегического планирования до конкурентного анализа. В то время как OpenAI утверждает, что учетные записи предприятия и команды имеют различную защиту конфиденциальности, потребительский продукт Fumble подчеркивает важность понимания того, как именно поставщики ИИ обрабатывают обмен и удержание данных.

Умные предприятия должны требовать четких ответов о управлении данными от своих поставщиков ИИ. Ключевые вопросы включают: при каких обстоятельствах могут быть доступны разговоры для третьих лиц? Какой контроль существует, чтобы предотвратить случайное воздействие? Как быстро компании могут реагировать на инциденты с конфиденциальностью?

Инцидент также демонстрирует вирусную природу нарушений конфиденциальности в эпоху социальных сетей. Через несколько часов после первоначального открытия история распространилась по X.com (ранее Twitter), Reddit и крупных технологических публикациям, усиливая репутационный ущерб и вынуждая руку Openai.

Инновационная дилемма: создание полезных функций ИИ без ущерба для конфиденциальности пользователей

Видение Openai для поисковой функции чата не было по своей природе ошибочно. Способность обнаружить полезные разговоры с ИИ может по -настоящему помочь пользователям найти решения общих проблем, аналогично тому, как переполнение стека стало бесценным ресурсом для программистов. Концепция построения базы знаний с возможностью поиска из взаимодействия с ИИ имеет заслуги.

Тем не менее, исполнение выявило фундаментальную напряженность в разработке ИИ. Компании хотят использовать коллективный интеллект, созданный посредством взаимодействия с пользователями, защищая индивидуальную конфиденциальность. Поиск правильного баланса требует более сложных подходов, чем простые флажки.

Один пользователь на x захватил сложность: «Не уменьшайте функциональность, потому что люди не могут читать. По умолчанию хорошие и безопасные, вы должны были выдержать свою позицию». Но другие не согласились, с тем, что кто -то отметил, что «содержимое ЧАТГПТ часто более чувствительно, чем банковский счет».

Как предложил эксперт по разработке продуктов Джеффри Эмануэль на X: «Определенно должен посмерть в этом и изменить подход, который будет спросить:« Насколько плохо было бы, если бы самые глупые 20% населения будут неправильно понимать и неправильно использовать эту функцию? » и планируйте соответственно ».

Определенно должен послужить посмертным по этому поводу и изменить подход в будущем, чтобы спросить: «Насколько плохо было бы, если бы самые глупые 20% населения будут неправильно понимать и злоупотреблять этой функцией?» и планируйте соответственно.

— Джеффри Эмануэль (@doodlestein) 31 июля 2025 года

Основной контроль конфиденциальности, каждая компания по искусственному искусству должна реализовать

Разгром в поисках CATGPT предлагает несколько важных уроков как для компаний, связанных с ИИ, так и для их корпоративных клиентов. Во -первых, настройки конфиденциальности по умолчанию имеют значение. Особенности, которые могут раскрыть конфиденциальную информацию, должны потребовать явного, информированного согласия с явным предупреждением о потенциальных последствиях.

Во -вторых, дизайн пользовательского интерфейса играет решающую роль в защите конфиденциальности. Сложные многоэтапные процессы, даже если они технически безопасны, могут привести к ошибкам пользователей с серьезными последствиями. Компании ИИ должны инвестировать в значительные средства в обеспечение контроля конфиденциальности как надежного, так и интуитивного.

В -третьих, возможности быстрого ответа необходимы. Способность Openai обратить вспять курс в течение нескольких часов, вероятно, предотвратила более серьезный ущерб репутации, но инцидент все еще поднял вопросы об их процессе обзора функций.

Как предприятия могут защитить себя от неудач конфиденциальности ИИ

По мере того, как ИИ становится все более интегрированным в бизнес -операции, такие инциденты с конфиденциальностью, как этот, скорее всего, станут более косвенными. Ставки резко возрастают, когда разоблаченные разговоры включают корпоративную стратегию, данные клиентов или собственную информацию, а не личные вопросы об улучшении дома.

Передовые предприятия должны рассматривать этот инцидент как пробуждение, чтобы укрепить свои рамки управления искусственным интеллектом. Это включает в себя проведение тщательной оценки воздействия на конфиденциальность перед развертыванием новых инструментов искусственного интеллекта, установление четких политик о том, какая информация может быть передана с помощью систем ИИ, и поддержание подробных запасов приложений ИИ по всей организации.

Более широкая индустрия искусственного интеллекта также должна учиться на спотыкании Openai. Поскольку эти инструменты становятся более мощными и вездесущими, маржа по ошибке в защите конфиденциальности продолжает сокращаться. Компании, которые с самого начала расставляют приоритеты вдумчивого дизайна конфиденциальности, вероятно, будут иметь значительные конкурентные преимущества по сравнению с теми, кто рассматривает конфиденциальность как запоздалую мысль.

Высокая стоимость сломанного доверия к искусственному интеллекту

Эпизод, доступный для поиска CHATGPT, иллюстрирует фундаментальную правду об усыновлении искусственного интеллекта: доверие, когда -то сломанное, чрезвычайно трудно восстановить. Хотя быстрый ответ OpenAI, возможно, содержит немедленный ущерб, инцидент служит напоминанием о том, что сбои конфиденциальности могут быстро затмить технические достижения.

Для индустрии, построенной на обещании преобразования того, как мы работаем и живем, поддержание доверия пользователей-это не просто хорошее-это экзистенциальное требование. По мере того, как возможности ИИ продолжают расширяться, компании, которые добиваются успеха, будут теми, кто доказывает, что они могут внедрить внедрение ответственно, внедряя конфиденциальность пользователей и безопасность в центре процесса разработки продукта.

Теперь вопрос заключается в том, будет ли индустрия искусственного интеллекта извлекать уроки из этого последнего звонка по пробуждению конфиденциальности или продолжать наткнуться на аналогичные скандалы. Потому что в гонке по созданию наиболее полезного ИИ компаний, которые забывают защищать своих пользователей, могут оказаться в одиночестве.