Присоединяйтесь к событию, которым доверяют лидеры предприятия в течение почти двух десятилетий. VB Transform объединяет людей, строящих реальную стратегию ИИ предприятия. Узнать больше
За последний год ИИ забрал мир штурмом, и некоторые из них задаются вопросом: является ли AI вдали от порабощения человеческого населения, последнего технологического увлечения или чего -то гораздо более нюанса?
Все сложно. С одной стороны, Chatgpt смог сдать экзамен на бар, который впечатляет и, возможно, немного зловеще для адвокатов. Тем не менее, некоторые трещины в возможностях программного обеспечения уже выявляются, например, когда адвокат использовал CHATGPT в суде, а бот сфабриковал элементы своих аргументов.
ИИ, несомненно, продолжит продвигаться в своих возможностях, но все еще есть большие вопросы. Как мы узнаем, что можем доверять ИИ? Откуда мы узнаем, что его вывод не только правильный, но и свободен от предвзятости и цензуры? Откуда приводятся данные, от которых обучаются модель ИИ, и как мы можем быть уверены, что они не манипулировали?
Факультирование создает сценарии высокого риска для любой модели ИИ, но особенно те, которые скоро будут использоваться для безопасности, транспорта, обороны и других областей, где на карту поставлены люди человека.
Проверка ИИ: необходимое регулирование для безопасного ИИ
В то время как национальные агентства по всему миру признают, что ИИ станет неотъемлемой частью наших процессов и систем, это не означает, что усыновление должно происходить без внимания.
Два наиболее важных вопроса, на которые нам нужно ответить:
- Конкретная система использует модель ИИ?
- Если используется модель ИИ, какие функции он может командовать/аффект?
Если мы знаем, что модель была обучена ее разработанной цели, и мы точно знаем, где она развертывается (и что она может сделать), то мы устранили значительное количество рисков в ИИ, используемом неправильным использованием.
Существует множество различных методов проверки ИИ, включая аппаратную проверку, проверку системы, устойчивую проверку и анализ радиации Ван Эк.
Аппаратные проверки являются физическими исследованиями вычислительных элементов, которые служат для определения наличия чипов, используемых для ИИ. Механизмы проверки системы, напротив, используйте программное обеспечение для анализа модели, определить, что она может управлять и помечать любые функции, которые должны быть не ограничены.
Механизм работает, выявляя и разделяя карантинные зоны системы — части, которые целенаправленно запутываются для защиты IP и секретов. Вместо этого программное обеспечение осматривает окружающие прозрачные компоненты для обнаружения и помещения любой обработки искусственного интеллекта, используемой в системе без необходимости раскрытия какой -либо конфиденциальной информации или IP.
Методы более глубокой проверки
После первоначальной проверки возникают механизмы устойчивой проверки, гарантируя, что после развертывания модели она не изменена или не подделана. Некоторые методы антибийства, такие как криптографическое хеширование и запутывание кода, завершены в самой модели.
Криптографическое хэширование позволяет инспектору определить, изменяется ли базовое состояние системы, не выявляя основных данных или кода. Методы запутывания кода, все еще находящиеся в ранней разработке, пробивают системный код на уровне машины, чтобы его не могли расшифровать внешние силы.
Анализ радиации Ван Эка рассматривает схему излучения, испускаемой во время запуска системы. Поскольку сложные системы запускают ряд параллельных процессов, излучение часто искажается, что затрудняет извлечение конкретного кода. Техника Ван Эка, однако, может обнаружить серьезные изменения (такие как новый ИИ), не расшифруя любую конфиденциальную информацию, которую развертыватели системы хотят сохранить частные.
Данные обучения: избегание Жиго (мусор, мусор)
Самое главное, что данные, подаваемые в модель ИИ, должны быть проверены на источнике. Например, почему противоположная военная попытка уничтожить ваш флот истребителей, когда они могут вместо этого манипулировать данными обучения, используемыми для обучения модели AI обработки сигналов Jets? Каждая модель искусственного интеллекта обучена данным — она информирует, как модель должна интерпретировать, анализировать и принимать меры на новый вход, который она дана. Несмотря на то, что в процессе обучения существует огромное количество технических деталей, это сводится к тому, чтобы помочь ИИ «понять» то, что будет человек. Процесс похож, а подводные камни также.
В идеале, мы хотим, чтобы наш набор данных обучения представил реальные данные, которые будут поданы в модель искусственного интеллекта после его обучения и развертывания. Например, мы могли бы создать набор данных прошлых сотрудников с высокими показателями эффективности и использовать эти функции для обучения модели ИИ, которая может предсказать качество потенциального кандидата сотрудников, просмотрев их резюме.
На самом деле, Amazon сделал именно это. Результат? Объективно, модель была огромным успехом в том, что она была обучена. Плохие новости? Данные научили модель сексистской. Большинство высокопроизводительных сотрудников в наборе данных были мужчины, что могло бы привести к двум выводам: мужчины работают лучше, чем женщины; Или просто что было нанято все больше мужчин, и это искажало данные. Модель ИИ не имеет интеллекта для рассмотрения последнего, и поэтому должна была предположить первое, придавая более высокий вес для пола кандидата.
Проверка и прозрачность являются ключом к созданию безопасного, точного, этического ИИ. Конечный пользователь заслуживает знать, что модель ИИ была обучена правильным данным. Использование криптографии с нулевым знанием, чтобы доказать, что данные не манипулировали, обеспечивает гарантию, что ИИ обучается на точных, сделках данных с самого начала.
Глядя в будущее
Бизнес -лидеры должны понимать, по крайней мере, на высоком уровне, какие методы проверки существуют и насколько эффективны для обнаружения использования ИИ, изменений в модели и смещений в оригинальных данных обучения. Определение решений — это первый шаг. Платформы, создающие эти инструменты, обеспечивают критический щит для любого недовольного сотрудника, промышленного/военного шпиона или простых человеческих ошибок, которые могут вызвать опасные проблемы с мощными моделями ИИ.
Хотя проверка не решит каждую проблему для системы на основе искусственного интеллекта, она может иметь большое значение для обеспечения того, чтобы модель ИИ будет работать в соответствии с задумами, и что ее способность неожиданно развиваться или быть подделанной немедленно. ИИ становится все более интегрированным в нашу повседневную жизнь, и очень важно, чтобы мы гарантировали, что можем ему доверять.
Скотт Дикстра является соучредителем и техническим директором для пространства и времени, а также стратегическим советником ряда стартапов базы данных и технологий Web3.
Источник
