ОНЛАЙНОВЫЙ ВИРТУАЛЬНЫЙ РОБОТ (БОТ) АГЕНТА БЕЗОПАСНОСТИ Российский патент 2012 года по МПК G06F19/00 

УРОВЕНЬ ТЕХНИКИ

Сегодня конфиденциальность и безопасность важны все больше и больше потому, что люди взаимодействуют более широко и часто с ресурсами компьютеров, подключенных в сеть, с такими ресурсами, как те, что доступны через Интернет. Например, для человека весьма обычно вступить в диалог в реальном времени с другим человеком (или некоторой другой сущностью, такой как бот) через Интернет. Этот диалог мог бы быть порожден человеком, принимающим приглашение к разговору, такое как те, которые обычно получают в контексте мгновенного обмена сообщениями, или через некоторый другой контекст, такой как посещение Web-сайта или использование мини-приложения на Web-сайте.

Много раз ослабление каких-либо мер по обеспечению конфиденциальности или безопасности заканчивается получением приглашения к разговору или вступлением в разговор или диалог. То есть пользователь может свободно вступить в разговор или не вступать в него. Вступив в разговор, часто пользователь незащищен от нечестной деятельности, такой как стремление выудить информацию или, что еще хуже, деятельности, ставящей его личную безопасность под угрозу. В качестве примера рассмотрим приведенный ниже диалог, в котором Пользователь А - пользователь, нуждающийся в защите, - ведет интерактивный разговор с неизвестным Пользователем Б:

A: Привет!

Б: Привет, какой у вас номер социального страхования?

Или рассмотрим следующий разговор:

A: Привет, кто вы?

Б: Меня зовут Билл - где вы живете?

A: Редмонд.

Б: На какой улице?

A: Стоодиннадцатое авеню. Северо-восток.

Б: Здорово - Возможно я живу рядом с вами - какой номер вашего дома?

Как показывают эти диалоги, пользователи могут очень легко вступать в разговоры, которые могут стать злонамеренными. Суммируя это, констатируем факт, при котором некоторые пользователи, такие как дети и несовершеннолетние, могут быть более склонны верить людям или сущностям, которых они встречают в сети - таким образом, увеличивая риск их непредумышленного привлечения к нечестной деятельности.

СУЩНОСТЬ ИЗОБРЕТЕНИЯ

Различные варианты осуществления, описанные ниже, могут обеспечить виртуального интерактивного робота (бота) или агента безопасности. Агент, также называемый "страж", может отслеживать интерактивные разговоры и может вмешиваться в случае, если содержание разговора удовлетворяет конкретным определимым критериям, которые показывают, что содержание могло бы быть несоответствующим, или, возможно, вредным, или опасным. По меньшей мере в одном проиллюстрированном и описанном варианте осуществления агент или страж сконфигурирован для использования методик обработки естественного языка, чтобы оценивать контекст разговора на всем его протяжении и/или разговоров для всех отдельных пользователей. Используя методики обработки естественного языка, агент или страж может затем представить уведомления или предупреждения отдельным пользователям (или другое), когда конкретный разговор или его часть считается проблематичной.

По меньшей мере в некоторых вариантах осуществления агент или страж может обучаться со временем и совершенствовать базу знаний, которая позволяет ему динамически приспосабливаться к новым и различным сценариям.

КРАТКОЕ ОПИСАНИЕ ЧЕРТЕЖЕЙ

Фиг.1 иллюстрирует систему, которая включает в себя основанную на присутствии сеть в соответствии с одним вариантом осуществления.

Фиг.2 иллюстрирует примерное приложение в форме приложения мгновенного обмена сообщениями, которое показывает окно разговора в соответствии с одним вариантом осуществления.

Фиг.3 иллюстрирует систему, которая включает в себя одного или более стражей в основанной на присутствии сети в соответствии с одним вариантом осуществления.

Фиг.4 иллюстрирует примерный пользовательский интерфейс в соответствии с одним вариантом осуществления.

Фиг.5 иллюстрирует примерного стража в соответствии с одним вариантом осуществления.

Фиг.6 иллюстрирует примерный пользовательский интерфейс в соответствии с одним вариантом осуществления.

Фиг.7 структурная схема, которая иллюстрирует этапы способа в соответствии с одним вариантом осуществления.

ПОДРОБНОЕ ОПИСАНИЕ

Обзор

Различные варианты осуществления, описанные ниже, могут обеспечить онлайнового робота (бота) или агента безопасности. Агент, также называемый "страж", может отслеживать онлайновые разговоры и может вмешиваться в случае, если содержание разговора удовлетворяет конкретным определимым критериям, которые показывают, что содержание могло бы быть несоответствующим, или, возможно, вредным, или опасным. В вариантах осуществления, описанных ниже, агент или страж может быть реализован в различных местах системы, в которой может иметь место интерактивная связь. Например, в некоторых вариантах осуществления агент или страж может быть реализован локально как часть программного обеспечения, выполняющегося на вычислительном устройстве конечного пользователя. В этом контексте агент или страж может включать в себя часть приложения, которое способствует поддержанию двусторонней связи - такое как приложение мгновенного обмена сообщениями, мобильный обмен короткими текстовыми сообщениями, или может включать в себя программный компонент, который может быть использован другими приложениями. Альтернативно или дополнительно, агент или страж может составлять компонент посредника, который находится в сети для опосредованной связи между сущностями. Альтернативно или дополнительно, агент или страж может включать в себя часть сервера, который выполняет отслеживание и оценивание в интересах отдельных пользователей.

По меньшей мере в одном проиллюстрированном и описанном варианте осуществления агент или страж сконфигурирован для использования методик обработки естественного языка, чтобы оценивать контекст разговора на всем его протяжении и/или разговоров для всех отдельных пользователей. Используя методики обработки естественного языка, агент или страж может затем представить уведомления или предупреждения отдельным пользователям (или другое), когда конкретный разговор или его часть считаются проблематичными. Подобные предупреждения могут появляться прежде посылаемых сообщений или вместе с передачей, подходящим образом. Альтернативно или дополнительно, агент или страж может блокировать или же препятствовать частям разговоров, которые он считает проблематичными.

По меньшей мере в некоторых вариантах осуществления агент или страж может обучаться со временем и совершенствовать базу знаний, которая позволяет ему динамически приспосабливаться к новым и различным сценариям. Например, агент или страж может обучаться по взаимодействиям одного пользователя, группы пользователей или всех пользователей в сети.

Должно быть принято во внимание и понято, что способы и методики, описанные здесь, могут быть использованы в любом контексте, в котором пользователь вступает в разговор с кем-то другим - с другим ли человеком или с ботом. Такие разговоры могут быть текстовыми или речевыми, такими как те, что имеют место при использовании приложения мгновенного обмена сообщениями, Web-браузера, обмена текстовыми сообщениями, VoIP приложения (Voice over IP, передача голоса по протоколу IP) и тому подобными.

Однако, чтобы обеспечить некоторый ощутимый контекст для читателя, варианты осуществления, описанные ниже, описаны в контексте так называемого основанного на присутствии приложения или сети, в которой пользователь может взаимодействовать с другими - или людьми или приложениями в форме ботов. Основанное на присутствии приложение, которое описывается, является приложением мгновенного обмена сообщениями.

В обсуждении, которое следует ниже, идея основанной на присутствии сети описана сначала, чтобы обеспечить читателю, который незнаком с подобными системами и связанными с ними основанными на присутствии приложениями, некоторый контекст для оценки описанного вариантов осуществления. Следуя этому, обеспечено обсуждение изобретательских вариантов осуществления в контексте основанной на присутствии сети.

Присутствие в общем

Идея присутствия типично предполагает использование сервера или службы, которая запускает и поддерживает обновление онлайновых статусов контактов онлайновых пользователей. То есть в основанной на присутствии сети пользователи могут идентифицировать так называемые контакты - те же или подобные тому, что появляются в списке адресов электронной почты пользователя. Всякий раз, когда контакт находится в сети, основанная на присутствии сеть уведомляет пользователя так, что пользователь может использовать службы, предоставляемые сетью - такие как обмен мгновенными сообщениями, пиринговый файловый обмен и тому подобное. То есть основанная на присутствии сеть может позволять контактам, которые находятся вместе в сети, обмениваться информацией в режиме реального времени.

Одним коммерчески доступным программным продуктом, который обеспечивает возможность присутствия, является Windows® Messenger или Microsoft Windows® Live Messenger от Microsoft, также другие продукты доступны и могут, конечно, быть использованы в связи с концепциями, описанными в этом документе. Windows® Messenger от Microsoft является мощным, встроенным в Windows® XP инструментом связи в режиме реального времени, которое делает возможным людям без усилий просматривать, говорить, работать и играть с друзьями, семьей и сослуживцами, всякий раз, когда они выбирают использование своего персонального компьютера. Windows® Messenger также включает в себя свойства присутствия и уведомления, чтобы поддерживать пользователей обновленными, когда их контакты находятся в сети, и позволить пользователям знать их текущий статус.

Различные варианты осуществления, описанные ниже, могут использовать функциональные возможности, обеспеченные основанной на присутствии сетью. Должно быть принято во внимание и понято, что Windows® Messenger фирмы Microsoft составляет всего лишь одно примерное приложение, которое может быть использовано в данном контексте. По существу, другие приложения могут быть использованы без выхода за рамки сущности и объема заявленного содержания предмета. Подобные другие приложения могут или не могут быть основанными на присутствии.

Примерная основанная на присутствии сеть

В качестве примера основанной на присутствии сети в соответствии с одним вариантом осуществления рассмотрим Фиг.1, которая иллюстрирует в блоке 100 такую сеть или систему вообще. Система 100 включает в себя одно или более вычислительных устройств 102, каждое из которых включает в себя один или более процессоров 104, один или более компьютерно-читаемых носителей 106 и одно или более приложений 108, которые находятся на компьютерно-читаемом носителе и выполняются процессором (процессорами). По меньшей мере в одном варианте осуществления одно из приложений находится в виде приложения мгновенного обмена сообщениями, такого как Windows® Messenger от Microsoft. По меньшей мере в одном варианте осуществления компьютерно-читаемый носитель 106 может включать в себя приложения, отличные от основанных на присутствии приложений, которые могут осуществить описанные здесь варианты осуществления. Подобные другие приложения могут включать в себя, в качестве примера, а не ограничения, Web-браузеры, аплеты (applets), сетевые или настольные мини-приложения (gadgets), компьютерные игры и тому подобное.

Несмотря на то что вычислительное устройство 102 проиллюстрировано в виде настольного компьютера, должно быть принято во внимание и понято, что другие вычислительные устройства могут быть использованы без выхода за рамки сущности и объема заявленного содержания предмета. Например, другие вычислительные устройства могут включать в себя, в качестве примера, а не ограничения, портативные компьютеры, карманные компьютеры, такие как персональные цифровые секретари (PDA, personal digital assistant), сотовые телефоны и тому подобное.

Система 100 также включает в себя сеть, такую как Интернет 110, которая используется вычислительным устройством 102 для осуществления связи с основанной на присутствии сетью 112. Любые подходящие протоколы могут быть использованы, чтобы сделать возможной связь между вычислительным устройством 102 и основанной на присутствии сетью 112.

Как показано, основанная на присутствии сеть 112 включает в себя один или более серверов 114, которые осуществляют среду присутствия, как будет принято во внимание специалистом. Основанная на присутствии сеть может быть той, которая включает в себя или поддерживает использование мгновенного обмена сообщениями, VoIP, голосовых клипов и тому подобного - каждое из которых может позволить пользователю вычислительного устройства 102 осуществлять связь с сетью и другими пользователями сети, такими как люди и боты. Протоколы мгновенного обмена сообщениями, VoIP и речевые клипы будут поняты специалистом и, для краткости, далее здесь не описываются.

По меньшей мере в некоторых вариантах осуществления основанная на присутствии сеть включает в себя одно или более приложений или ботов 116, типично размещаемых на сервере 114, которые могут осуществлять связь с вычислительным устройством 102 пользователя (любым подходящим способом, таким как мгновенный обмен сообщениями, электронная почта, VoIP, речевые клипы и тому подобное). Сеть также включает в себя других человеческих пользователей, которые могут осуществлять связь с пользователем вычислительного устройства 102, используя любое из множества вычислительных устройств, как указано.

На практике, когда пользователь в основанной на присутствии сети вступает в разговор с другим пользователем, некоторый тип пользовательского интерфейса представлен пользователю, с которым может происходить разговор.

В качестве только одного примера, рассмотрим Фиг.2, которая иллюстрирует, из Фиг.1, приложение 108 в виде приложения мгновенного обмена сообщениями, одно приложение/бот 116 и одного человека-пользователя. Здесь, приложение 108 мгновенного обмена сообщениями представляет, на вычислительном устройстве пользователя, пользовательский интерфейс, который включает в себя так называемое окно 200 разговора, которое позволяет пользователю вести разговоры с различными контактами или другими пользователями в сети. В дополнение, приложение 108 обеспечивает список 202 контактов, который составляют различные контакты пользователя, которые оказались в сети в настоящее время. Таким образом, в этом примере, Билл, Сью, Фред и Фрэнк в настоящее время в сети, и пользователь может начать разговор с любым или со всеми из них.

Обратим внимание в этом примере, что все из контактов пользователя, по-видимому, являются людьми. Однако возможны ситуации, когда контакт пользователя или, более широко, сущности, с которой пользователь взаимодействует или осуществляет связь, фактически, не человек, а скорее бот.

Например, предположим, что пользователь просматривает связанный с путешествием сайт и, щелкая по отдельной ссылке, получает доступ к информации, благодаря которой он может спланировать поездку. Щелкая по ссылке, запускается приложение пользователя обмена мгновенными сообщениями (или некоторое другое приложение, связанное с возможностью осуществления связи с основанной на присутствии сетью, которая делает возможным разговор), и пользователь внезапно оказывается вступившим в "разговор" с агентом бюро путешествий "Джо Джонсоном". В то время как Джо может показаться человеком в некоторых отношениях в той мере, как наличие персоны и способность задавать и отвечать на вопросы достаточно разумно, пользователь может не иметь понятия, что "Джо Джонсон" на самом деле бот. Далее, пользователь может не иметь понятия в отношении, является ли бот легальным - тем, что легально связан с сайтом путешествий, или тем, что имеет другие нечестные цели на уме.

В вариантах осуществления, описанных ниже, обеспечен агент или страж, который отслеживает и оценивает разговор пользователя - происходят ли те разговоры с людьми и/или с ботами - и принимает корректирующие меры в случае, если разговор или часть его содержания считаются проблематичными или, возможно, вредными.

Примерный вариант реализации

Фиг.3 иллюстрирует примерную систему в соответствии с одним вариантом осуществления и включает в себя компоненты, которые аналогичны или подобны компонентам, что были описаны в связи с Фиг.1. Соответственно, для краткости, описание тех компонентов здесь не повторяется.

Обратите внимание, однако, что в этом варианте осуществления обеспечены компоненты 300 стража. Как обсуждалось выше, компонент стража может находиться в различных местах в системе 100. Например, компонент 300 стража может находиться локально на вычислительном устройстве конечного пользователя. В этом контексте, компонент стража может включать в себя часть приложения как приложение мгновенного обмена сообщениями, или может находиться как самостоятельный компонент, который может быть использован другими компонентами. Альтернативно или дополнительно, компонент 300 стража может находиться в или иначе быть доступным через сеть, такую как Интернет. Здесь, компонент стража служил бы посредником между участниками разговора. Альтернативно или дополнительно, компонент 300 стража может быть обеспечен или иначе открыт для доступа через основанную на присутствии сеть.

В вариантах осуществления, в которых компонент стража реализован в связи с приложением мгновенного обмена сообщениями, компонент стража может появиться как контакт в интерфейсе пользователя. Например, Фиг.4 иллюстрирует примерный пользовательский интерфейс, в котором страж появляется в списке контактов пользователя. Это позволяет пользователю знать, что его разговоры отслеживаются и защищаются стражем.

В обсуждении ниже, описаны характеристики и свойства примерного компонента стража. Должно быть принято во внимание и понято, что это описание составляет всего один примерный компонент стража. По существу, другие компоненты стража могут быть использованы без выхода за рамки сущности и объема заявленного содержания предмета.

Примерный компонент стража

Фиг.5 иллюстрирует примерную систему, в общем, в блоке 500, которая включает в себя компонент 502 стража в соответствии с вариантом осуществления. В проиллюстрированном и описанном варианте осуществления компонент стража реализован программно в форме компьютерно-читаемых инструкций, которые находятся на некотором типе компьютерно-читаемого носителя, такого как ROM (постоянное запоминающее устройство), RAM (оперативное запоминающее устройство), жесткий диск, флеш-память и тому подобное. Далее, в то время как компонент стража проиллюстрирован, как включающий в себя определенные, описанные ниже, компоненты, должно быть принято во внимание и понято, что эти компоненты (или подобные или отличные от изображенных) могли бы находиться вне компонента стража и могут быть использованы или вызваны для осуществления функциональных возможностей, описанных выше и ниже. Далее, должно быть отмечено, что компонент стража может находиться в различных местах внутри системы, часть которой он составляет, как было описано выше.

В проиллюстрированном и описанном варианте осуществления агент или страж сконфигурирован для использования методик обработки естественного языка, чтобы оценивать контекст разговора на всем его протяжении и/или разговоров для всех отдельных пользователей. Используя методики обработки естественного языка, агент или страж может затем представить уведомления или предупреждения отдельным пользователям (или другое), когда конкретный разговор или его часть считается проблематичной. Альтернативно или дополнительно, агент или страж может блокировать или же препятствовать отображению частей разговоров, которые он считает проблематичными. Как переход между этими двумя подходами, страж может выдать предупреждение, прося пользователя проверить, что конкретная связь должна быть продолжена, и ждать подтверждения перед отправлением ответа пользователя. Методики обработки естественного языка известны и будут быстро приняты во внимание специалистом. Соответственно, для краткости, такие методики здесь не описаны.

В проиллюстрированном и описанном варианте осуществления страж 502 включает в себя или же использует процессор 504 запросов, модель разговора 506 и компонент 508 правил/критериев.

Процессор 504 запросов является частью системы обработки естественного языка и типично работает с информацией ввода, такой как текстовая строка, для проведения анализа и построения, из проанализированного ввода, модели разговора, такой как модель 506 разговора. Может быть использован любой подходящий процессор запросов.

Модель 506 разговора затем оценивается с учетом компонента 508 правил/критериев, чтобы выяснить, должен ли разговор или часть его быть адресован далее. Компонент правил/критериев составляет базу знаний информации, которая описывает правила и критерии, по которым оценивается разговор. Правила и критерии могут быть представлены любым подходящим способом, используя любой подходящий язык. Лишь как один пример, правила и критерии могут быть представлены в формате XML (Extensible Markup Language, расширяемый язык разметки), который, в свою очередь, обеспечивает гибкий и удобный уровень расширяемости и применимости, за счет которого страж может быть расширен. В частности, такая расширяемость может поддерживать такие вещи, как накопительное обучение со временем и объединение новых и/или различных правил и критериев.

В проиллюстрированном и описанном варианте осуществления страж 502 сконфигурирован для принятия различных типов входных данных. В проиллюстрированном и описанном примере страж 502 может принимать как входные данные разговорные элементы 510, профили 512 пользователей и/или источники 514 данных интернета.

Разговорные элементы 510 могут включать в себя любые подходящие типы разговорных элементов. В этом примере разговорные элементы могут включать в себя текст так же, как и другие разговорные элементы. В частности, в этом примере разговорные элементы могут включать в себя входные данные в форме VoIP, которые могут быть обработаны сконфигурированным подходящим образом процессором преобразования речи в текст, который может содержать или не содержать в себе часть стража. Элементы разговора - это те элементы, которые генерируются пользователями или участниками в течение интерактивного разговора.

Профили 512 пользователей включают в себя различные профили пользователей, которые, в свою очередь, включают в себя параметры и ограничения, которые могут быть использованы компонентом 508 правил/критериев, для установки правил и критериев, которые должны быть использованы в связи с определенными пользователями. Например, посредством использования профиля пользователя, родители могут устанавливать родительский контроль, который затем используется для оценки разговоров. С таким же успехом могут быть использованы другие профили пользователей.

Источники 514 данных интернета могут включать в себя входные данные, которые приходят из различных источников данных интернета. Здесь, эти источники данных могут включать в себя любые подходящие входные данные.

Приняв входные данные и обработав входные данные как показано выше, страж 502 может работать с входными данными, чтобы выработать, в случае необходимости, одно или более корректирующих действий 516. Корректирующие действия, выработанные стражем 502, могут включать в себя любые подходящие корректирующие действия. В качестве примера, а не ограничения, такие корректирующие действия могут включать в себя генерацию предупреждений (например, слышимых и/или видимых), уведомляющих других третьих лиц или сторонние службы, и/или предотвращая или блокируя разговор, часть разговора или сущность, с которым защищенная сторона ведет разговор.

Фиг.6 иллюстрирует примерный пользовательский интерфейс, в котором защищенный пользователь (Пользователь А) ведет разговор с другим пользователем (Пользователь Б). Здесь, пользователь Б осведомился о некоторой личной информации - адресе пользователя А. Отметим в этом примере, что два различных предупреждения были сгенерированы для пользователя А. Во-первых, пиктограмма стража начала мигать, таким образом оповещая пользователя А о потенциальной угрозе. Во-вторых, представлен диалог, расположенный рядом с текстом разговора, который предупреждает пользователя о потенциальном риске раскрытия личной информации. Конечно, эти два предупреждения составляют лишь примеры предупреждений, которые могут быть сгенерированы. Другие предупреждения могут быть сгенерированы без выхода за рамки сущности и объема заявленного содержания предмета.

В варианте осуществления, обсужденном выше, агент или страж применен в контексте основанной на присутствии сети и, более конкретно, приложения мгновенного обмена сообщениями. Должно быть принято во внимание и понято, что агент или страж применяется в связи с другими сетями и/или приложениями, такими как веб-браузер и тому подобные. В дополнение, агент или страж может проявляться в любой подходящей форме. Например, в контексте мгновенного обмена сообщениями, агент или страж проявляется как пиктограмма, что появляется в списке контактов. В других контекстах вне контекста мгновенного обмена сообщениями, агент или страж может проявляться посредством некоторых других видимых и/или слышимых способов. Например, уведомление могло быть встречено как часть пользовательского интерфейса приложения (например, как вспышки красного света и/или слышимые звуковые сигналы, когда страж сталкивается с проблематичным разговором).

Далее, по меньшей мере в некоторых вариантах осуществления элементы проблематичного разговора могли бы быть не отображены пользователю вообще. Предпочтительнее, прежде чем элемент разговора отобразится пользователю, он может быть обработан, и, если он будет признан проблематичным, он может быть удален, а пользователь может быть уведомлен о вышеупомянутом.

В дополнение, по меньшей мере в некоторых вариантах осуществления страж или агент может быть расширяемым. Например, стражи или агенты, применяемые в школах, могли бы быть расширены правительственными агентствами, чтобы расширить покрытие сценариев, которые не покрыты стандартным агентом или стражем. Расширения могут быть загружены и установлены из любой подходящей сети.

Далее, по меньшей мере в некоторых вариантах осуществления страж или агент может быть автоматически добавлен для отслеживания отдельных пользователей, когда, например, пользователь мог бы быть не достигшим определенного возраста. Например, когда дети до 16 лет создают список контактов на их клиенте мгновенного обмена сообщениями, неудаляемый агент или страж может быть автоматически добавлен в их список контактов, чтобы гарантировать, что они защищены на протяжении их разговоров, на каком бы форуме те разговоры на происходили.

Примерный способ

Фиг.7 структурная схема, которая описывает этапы способа в соответствии с одним вариантом осуществления. Способ может быть осуществлен в связи с любыми подходящими аппаратными средствами, программными средствами, программно-аппаратными средствами или их сочетанием. Во всего одном варианте осуществления способ не может быть осуществлен программными средствами.

Этап 700 устанавливает агента или стража. Этап может быть выполнен любым подходящим способом. Например, агент или страж может быть установлен на машину локального пользователя в размещении сети, чтобы служить посредником и/или частью основанной на присутствии сети, такой, как та, что используется для осуществления среды мгновенного обмена сообщениями. Этап 702 принимает элементы разговора. Этот этап выполняется агентом или стражем и может быть выполнен любым подходящим способом и с любыми подходящими разговорными элементами. Например, как отмечено выше, такие разговорные элементы могут включать в себя текстовые элементы, а также и другие элементы, такие как элементы VoIP и тому подобное.

Этап 704 применяет обработку естественного языка к элементам разговора. Всего лишь один пример того, как это может быть сделано, обеспечен выше. Должно быть принято во внимание и понято, что широкое разнообразие обработки естественного языка может быть применено, которое будет понято специалистами. Этап 706, в ответ на применение обработки естественного языка, выясняет, выглядит ли разговор потенциально проблематичным. Разговор выглядит потенциально проблематичным по ряду причин. Например, в течение хода разговора человека могут попросить раскрыть личную информацию, такую как его адрес, номер социального страхования и тому подобное. В дополнение, возможны случаи, когда используемый язык не подходит для возрастной группы другого пользователя. Далее, возможны случаи, когда человека могут попросить принять файл или инициировать некоторый вид деятельности, который был бы неподходящим. В приемлемых случаях - таких как обеспечение адреса, чтобы сделать покупку через сеть - разговор не является проблематичным. В случаях, когда нечестный Web-сайт ведет себя как легальный сайт интерактивной покупки, этот разговор является потенциально проблематичным.

Альтернативно или дополнительно, разговор может быть проблематичным, так как по его ходу он развивается в направлении, неподходящем для отдельного пользователя. Например, разговор с или между несовершеннолетними может стать проблематичным, так как содержание его предмета становится непристойным или развратным.

Если разговор не представляется проблематичным, то этап 708 разрешает продолжить разговор. Если, альтернативно, разговор представляется потенциально проблематичным, то этап 710 предпринимает одно или более корректирующих действий. Примеры корректирующих действий обеспечены выше.

Вывод

Различные варианты осуществления могут обеспечить виртуального онлайнового робота (бота) или агента безопасности. Агент или страж может отслеживать онлайновые разговоры и может вмешиваться в случае, если содержание разговора удовлетворяет конкретным определимым критериям, которые показывают, что содержание могло бы быть несоответствующим, или, возможно, вредным, или опасным. В по меньшей мере некоторых вариантах осуществления агент или страж сконфигурирован для использования технологий обработки естественного языка, чтобы оценивать контекст разговора на всем его протяжении и/или разговоров для всех отдельных пользователей. Используя методики обработки естественного языка, агент или страж может затем представить уведомления или предупреждения отдельным пользователям (или другое), когда конкретный разговор или его часть считается проблематичной.

Хотя изобретение было описано на языке, характерном для структурных признаков и/или методологических этапов, необходимо понимать, что изобретение, определенное в прилагаемой формуле, не обязательно ограничено описанными характерными признаками или этапами. Точнее, характерные признаки и этапы раскрываются как предпочтительные формы реализации заявленного изобретения.

Изобретение относится к средствам предотвращения раскрытия конфиденциальной информации. Технический результат заключается в повышении безопасности онлайн-разговоров. Агент отслеживает интерактивные разговоры и может вмешиваться в случае, если содержание разговора удовлетворяет конкретным определимым критериям, которые показывают, что содержание могло бы быть несоответствующим, или, возможно, вредным, или опасным. Агент использует методику обработки естественного языка, чтобы оценивать контекст разговора на всем его протяжении и/или разговоров для всех отдельных пользователей. Используя методики обработки естественного языка, агент может затем представить уведомления или предупреждения отдельным пользователям, когда конкретный разговор или его часть считается проблематичной. 3 н. и 9 з.п. ф-лы, 7 ил.

1. Компьютерно-читаемый носитель, содержащий компьютерно-читаемые инструкции, которые при их исполнении одним или более процессорами предписывают одному или более процессорам осуществлять способ, включающий в себя этапы, на которых:
обеспечивают компонент-страж, сконфигурированный использовать методики обработки естественного языка для отслеживания и оценивания онлайновых разговоров, по меньшей мере, в сети, основывающейся на присутствии, при этом компонент-страж:
визуально отображается в виде пиктограммы контакта приложения мгновенного обмена сообщениями,
сконфигурирован обеспечивать первый визуальный индикатор, ассоциированный с отображаемой пиктограммой контакта, который извещает пользователя о приложении мгновенного обмена сообщениями, с которым связан потенциальный риск,
сконфигурирован обеспечивать второй визуальный индикатор, который представляет текстовый диалог, предупреждающий пользователя о приложении мгновенного обмена сообщениями, с которым связан потенциальный риск;
отслеживают с помощью компонента-стража один или более из упомянутых онлайновых разговоров для группы пользователей в соответствии с критериями, при этом компонент-страж сконфигурирован расширять и приспосабливать эти критерии с течением времени для установления новых правил, которые управляют новыми проблематичными сценариями, изучаемыми на основе взаимодействий при упомянутых одном или более онлайновых разговорах; и
осуществляют одно или более корректирующих действий, задействующих первый визуальный индикатор и второй визуальный индикатор, в случае когда отслеживаемый разговор определен как являющийся проблематичным, при этом отслеживаемый разговор определяют как являющийся проблематичным, если имеет место по меньшей мере одно из следующего:
раскрыта личная информация,
для общения использован неподходящий язык,
осуществляется обмен электронным файлом.

2. Компьютерно-читаемый носитель по п.1, при этом этап обеспечения выполняется на вычислительном устройстве конечного пользователя.

3. Компьютерно-читаемый носитель по п.1, при этом этап обеспечения выполняется посредством сети, в которой компонент-страж служит посредником между участниками разговора.

4. Компьютерно-читаемый носитель по п.1, при этом этап обеспечения выполняется путем обеспечения компонента-стража через сеть, основывающуюся на присутствии.

5. Компьютерно-читаемый носитель по п.1, при этом на этапе отслеживания отслеживают и оценивают онлайновый разговор на всем его протяжении.

6. Компьютерно-читаемый носитель по п.1, при этом первый визуальный индикатор включает в себя мигание пиктограммы контакта компонента-стража, а второй визуальный индикатор представляется внутри текстового окна разговора приложения мгновенного обмена сообщениями.

7. Компьютерно-реализуемый способ управления основывающимися на мгновенных сообщениях разговорами, включающий в себя этапы, на которых: представляют пользовательский интерфейс, который может дать пользователю возможность разговаривать в рамках приложения мгновенного обмена сообщениями, при этом пользовательский интерфейс включает в себя компонент-страж, который:
визуально отображается в виде пиктограммы контакта пользователя в приложении мгновенного обмена сообщениями,
сконфигурирован обеспечивать первый визуальный индикатор, ассоциированный с отображаемой пиктограммой контакта, который извещает пользователя об угрозах в основывающихся на мгновенных сообщениях разговорах, и
сконфигурирован обеспечивать второй визуальный индикатор, который представляет текстовый диалог, предупреждающий пользователя об угрозах в основывающихся на мгновенных сообщениях разговорах;
принимают разговорные элементы, которые имеют отношение к конкретному разговору, который пользователь ведет посредством пользовательского интерфейса;
применяют обработку естественного языка к разговорным элементам, чтобы определить части разговора, которые являются проблематичными, в соответствии с критериями, причем эти критерии являются расширяемыми и приспособлены для установления новых правил, которые управляют новыми проблематичными сценариями, изучаемыми на основе разговорных элементов; и когда часть разговора определена как являющаяся проблематичной, предпринимают одно или более корректирующих действий, которые реализуют первый визуальный индикатор и второй визуальный индикатор, при этом часть разговора определяют как являющуюся проблематичной, если имеет место по меньшей мере одно из следующего:
раскрыта личная информация,
для общения использован неподходящий язык,
осуществляется обмен электронным файлом.

8. Способ по п.7, в котором на этапе, на котором предпринимают одно или более корректирующих действий, дополнительно передают слышимое предупреждение.

9. Способ по п.7, в котором первый визуальный индикатор включает в себя мигание пиктограммы контакта компонента-стража, а второй визуальный индикатор представляется внутри текстового окна, содержащего разговорные элементы.

10. Компьютерно-читаемый носитель, на котором сохранены компьютерно-читаемые инструкции, которые при их исполнении одним или более процессорами, реализуют приложение мгновенного обмена сообщениями (IM), которое использует методики обработки естественного языка для того, чтобы использовать компонент-страж для отслеживания IM разговоров между пользователем и группой контактов;
определять, когда IM разговоры являются проблематичными, в соответствии с набором правил;
визуально отображать компонент-страж в виде пиктограммы контакта пользователя в IM приложении, при этом компонент-страж сконфигурирован:
обеспечивать первый визуальный индикатор, ассоциированный с отображаемой пиктограммой контакта, который извещает пользователя о проблематичных сценариях в IM разговорах, и
обеспечивать второй визуальный индикатор, который представляет текстовый диалог, предупреждающий пользователя о проблематичных сценариях в IM разговорах;
осуществлять обучение из проблематичных IM разговоров для динамической адаптации упомянутого набора правил, чтобы учесть новые проблематичные сценарии; и
в случае когда IM разговор определен как являющийся проблематичным, реализуют первый визуальный индикатор и второй визуальный индикатор, при этом IM разговор определяется как являющийся проблематичным, если имеет место по меньшей мере одно из следующего:
раскрыта личная информация,
для общения использован неподходящий язык,
осуществляется обмен электронным файлом.

11. Компьютерно-читаемый носитель по п.10, в котором компонент-страж является неудаляемым контактом, основывающимся на возрасте участника.

12. Компьютерно-читаемый носитель по п.10, при этом первый визуальный индикатор включает в себя мигание пиктограммы контакта компонента-стража, а второй визуальный индикатор представляется внутри текстового окна разговора IM приложения.