Хотите более разумное понимание в вашем почтовом ящике? Подпишитесь на наши еженедельные информационные бюллетени, чтобы получить только то, что имеет значение для искусственного интеллекта предприятия, данных и лидеров безопасности. Подписаться сейчас
AWS опирается на тот факт, что, поставив свою функцию автоматических оборотов на оборотах на Bedrock для общей доступности, он предоставит больше предприятий и регулируется отрасли доверие к использованию и развертыванию большего количества приложений и агентов ИИ.
Также надеется, что введение методов, таких как автоматизированные рассуждения, в которых используется валидация на основе математики для определения основной истины, ослабит предприятия в мир нейросимболического ИИ, шаг, который, по мнению компании, станет следующим крупным достижением-и его самой большой дифференциацией-в мире ИИ.
Автоматизированные проверки рассуждений позволяют корпоративным пользователям проверить точность ответов и обнаружить галлюцинацию модели. AWS обнародовала автоматизированные проверки рассуждений на Bedrock во время ежегодной конференции Re: Invent в декабре, утверждая, что может уловить почти 100% всех галлюцинаций. Ограниченное количество пользователей может получить доступ к этой функции через Amazon Bedrock Guardrails, где организации могут установить ответственные политики ИИ.
Байрон Кук, выдающийся ученый и вице -президент в AWS Automated Descowing Group, заявил VentureBeat в интервью, что развертывание предварительного просмотра доказано, как эта работа в обстановке предприятия, и помогает организациям понять ценность ИИ, который может смешивать символическое или структурированное мышление с природой неоральной сети генеративного ИИ.
«Есть это понятие нейросимболического ИИ, это тот вид прозвища, под которым вы можете назвать автоматизированные рассуждения», — сказал Кук. «Рост интереса к нейросиммболическому ИИ заставил людей, когда они использовали инструмент, чтобы понять, насколько важна эта работа».
Кук сказал, что некоторые клиенты позволили AWS пересматривать свои данные и документы, используемые для аннотирования ответов как правильных или неправильных, и обнаружили, что работа, созданная инструментом, выполняемой аналогичным образом с людьми с копией книги правил перед ними. Он добавил, что концепция истины или правила часто может подвергаться интерпретации. Автоматизированные рассуждения не имеют такой же проблемы.
«Это было действительно удивительно! Было удивительно, что люди с логическим фоном были во внутреннем канале общения, споря о том, что является правдой или нет, и в пять или шести сообщениях указывают на инструмент и понимают, что это правильно», — сказал он.
AWS добавил новые функции в автоматические проверки рассуждений для общего выпуска. К ним относятся:
- Поддержка для добавления больших документов до 80 тыс. Токенов или до 100 страниц
- Более простая проверка политики путем сохранения проверки проверки для повторных прогонов
- Автоматизированное генерация сценариев из предварительных определений
- Предложения естественного языка для обратной связи политики
- Настраиваемые настройки проверки
Кук сказал, что автоматические проверки рассуждений подтверждают истину или правильность в системе ИИ, доказывая, что модель не галлюцинирует решение или ответ. Это означает, что он может предлагать регуляторы и регулируемые предприятия, обеспокоенные тем, что нетерминированный характер генеративного ИИ может вернуть неверные ответы больше уверенности.
Нейросимболический ИИ и доказательство правды
Кук поднял идею о том, что автоматические проверки рассуждений помогают доказать многие концепции нейросимболического ИИ.
Нейросимболический ИИ относится к комбинации нейронных сетей, используемых языковыми моделями, с структурированным мышлением и логикой из символического ИИ. Там, где нейронные сети распознают закономерности из данных, символический ИИ использует явные правила и логические проблемы. Фонд -модели часто полагаются на нейронные сети или глубокое обучение, но, поскольку модели основывают свои ответы на модели, они подвержены галлюцинациям, что продолжает беспокоить предприятия. Но символический ИИ не очень гибкий без ручных инструкций.
Выдающиеся голоса в ИИ, как и Гэри Маркус, сказали, что нейросимболический ИИ имеет решающее значение для искусственного общего интеллекта.
Кук и AWS были взволнованы, чтобы принести идеи нейросиммболического ИИ на предприятие. Мэтт Маршалл из Venturebeat рассказал о том, что AWS сосредоточился на таких методах, как автоматические проверки рассуждений и объединение математики и логики с генеративным ИИ, чтобы сократить галлюцинации в подкасте.
В настоящее время немногие компании предлагают профилированную нейросимболическую ИИ. К ним относятся Kognitos, Franz Inc. и Umnai.
Привлечение математики к проверке
Автоматизированные рассуждения работают, применяя математические доказательства к моделям в ответ на запрос.
В нем используется метод, называемый теориями модуля удовлетворенности, где символы имеют предопределенные значения, и он решает проблемы, которые включают как логику (если, то и, или), так и математика. Автоматизированное рассуждение принимает этот метод и применяет его к ответам моделью и проверяет его на набор данных политики или основной истины без необходимости проверить ответ несколько раз.
Например, в настройке предприятия они хотят доказать, что финансовый аудит является правильным. Модель отвечает, что отчет содержит неутвержденные платежи. Автоматизированные проверки рассуждений разбивают это на логическую строку:
(forall ((отчет))
(=> (содержит UnfulvedVendorpayments r)
(SADESCALATE R))))
Затем он входит в определения, переменные и типы, установленные пользователем на Bedrock Guardrails, и решает уравнение, чтобы доказать, что модель отреагировала правильно и на основе истины.
Делать агенты доказываемыми правильными
Кук сказал, что агентские варианты использования могут извлечь выгоду из автоматических проверок рассуждений, и предоставление большего доступа к этой функции через Bedrock может продемонстрировать его полезность. Но он предупредил, что автоматизированные рассуждения и другие нейросимболические методы ИИ все еще находятся на очень ранних стадиях.
«Я думаю, что это повлияет на агент AI, хотя, конечно, агентская работа сейчас настолько умозрительной», — сказал Кук. «Есть несколько подобных методов, связанных с обнаружением двусмысленности в заявлении, а затем на поиске ключевых дельт между возможными переводами, а затем возвращаются к вам и получению уточнения в этом, что, я думаю, станет ключевым с точки зрения эмоционального путешествия, которое я видел, через которые я видел, они начали играть с Generative AI пару лет назад».
Источник
