[1] Согласно настоящей заявке испрашивается приоритет в соответствии с заявкой на выдачу патента Китая №202011613190.6, поданной 30 декабря 2020 г., которая ссылкой полностью включена в настоящий документ.
Область техники, к которой относится настоящее изобретение
[2] Настоящее раскрытие связано с областью смягчения контента с нарушением в ресурсах интернета, например, связано со способом и устройством для смягчения прямой трансляции, сервером и носителем данных.
Предшествующий уровень техники настоящего изобретения
[3] В связи с быстрым развитием технологий интернета в интернете появляется все больше платформ прямой трансляции, так что ресурсы интернета распространяются по миру все более и более интенсивно. В то же самое время, контент потокового вещания некоторых студий прямой трансляции включает в себя темы терроризма, насилия, порнографии, политической бестактности и тому подобное, и большое количество контента прямой трансляции с нарушением быстро распространяется по всему интернету. Следовательно, контент прямой трансляции с нарушением необходимо смягчать в режиме реального времени в таких студиях прямой трансляции, чтобы предотвратить распространение контента прямой трансляции с нарушением.
[4] Анализ контента с нарушением выполняется по визуальным признакам прямой трансляции, включенным во множество видеокадров прямой трансляции, и по звуковым признакам звукового сопровождения прямой трансляции в самом процессе прямой трансляции с помощью обученной по отдельным признакам модели нейронной сети, так что если изображения с нарушением присутствуют во множестве видеокадров прямой трансляции или если определено, что звуковое сопровождение, связанное с терроризмом, насилием, порнографией, политической бестактностью и другими подобными темами, присутствует в прямой трансляции, и с помощью модерации обнаружено подозрительное в отношении контента потоковое вещание студии, то оно помещается на платформу ручной модерации для ручного смягчения контента. В этом случае, в процессе извлечения видеокадров и звукового сопровождения потокового вещания в процессе прямой трансляции, возникает проблема неточных результатов извлечения вследствие нестабильности сети прямого вещания. Следовательно, при проверке возможного присутствия контента с нарушением в студии потокового вещания на основании извлеченных видеокадров и звукового сопровождения прямой трансляции не обеспечиваются высокие точность и процент запоминаемости в студии потокового вещания, и часто возникает ошибочное отбрасывание или ошибочное одобрение.
Краткое раскрытие настоящего изобретения
[5] Согласно варианту осуществления настоящего раскрытия, предложены способ и устройство для модерации прямой трансляции, сервер и носитель данных, которые могут устранить ошибочное отбрасывание или ошибочное одобрение в процессе прямой трансляции и улучшить точность и процент запоминаемости при модерации прямой трансляции.
[6] Предложен способ для модерации прямой трансляции. В способе предусмотрены следующие стадии:
[7] Выполнение предварительной модерации нарушения в текущем кадре прямой трансляции в подлежащем модерации потоковом вещании студии на основании модели модерации высокой точности и модели модерации с высоким запоминанием, которые каскадированы друг с другом; и
[8] получение целевой балльной оценки нарушения в текущем кадре прямой трансляции с помощью ввода первой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации поведения после прохождения текущим кадром прямой трансляции предварительной модерации нарушения; причем проведение предварительной модерации нарушения в текущем кадре прямой трансляции в подлежащем модерации потоковом вещании студии на основании модели модерации высокой точности и модели модерации с высоким запоминанием, которые каскадированы друг с другом, предусматривает следующие стадии: получение первой балльной оценки нарушения в текущем кадре прямой трансляции с помощью ввода текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации высокой точности; и получение второй балльной оценки нарушения в текущем кадре прямой трансляции с помощью непрерывного ввода текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации с высоким запоминанием после определения, что первая балльная оценка нарушения в текущем кадре прямой трансляции не превышает предварительно определенный порог точности нарушения и вторая балльная оценка нарушения в текущем кадре прямой трансляции не превышает предварительно определенный порог запоминания нарушения.
[9] Дополнительно предложено устройство для модерации прямой трансляции. Устройство включает в себя:
[10] модуль предварительной модерации, выполненный с возможностью проводить предварительную модерацию нарушения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии с помощью модели модерации высокой точности и модели модерации с высоким запоминанием, которые каскадированы друг с другом; и
[11] модуль определения балльной оценки нарушения, выполненный с возможностью получить целевую балльную оценку нарушения в текущем кадре прямой трансляции с помощью ввода первой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации поведения после прохождения текущим кадром прямой трансляции предварительной модерации нарушения; причем модуль (410) предварительной модерации дополнительно выполнен с возможностью получить первую балльную оценку нарушения в текущем кадре прямой трансляции с помощью ввода текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации высокой точности; и получить вторую балльную оценку нарушения в текущем кадре прямой трансляции с помощью непрерывного ввода текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации с высоким запоминанием после определения, что первая балльная оценка нарушения в текущем кадре прямой трансляции не превышает предварительно определенный порог точности нарушения; причем определяется, что текущий кадр прямой трансляции прошел предварительную модерацию нарушения после определения, что первая балльная оценка нарушения в текущем кадре прямой трансляции не превышает предварительно определенный порог точности нарушения и вторая балльная оценка нарушения в текущем кадре прямой трансляции не превышает предварительно определенный порог запоминания нарушения.
[12] Дополнительно предложен сервер для модерации прямой трансляции. Сервер включает в себя:
[13] один или несколько процессоров; и
[14] память, выполненную с возможностью хранить одну или несколько программ;
[15] Причем один или несколько процессоров после загрузки и выполнения одной или нескольких программ заставлены выполнять способ для модерации прямой трансляции согласно любому варианту осуществления настоящего раскрытия.
[16] Дополнительно предложен энергонезависимый машиночитаемый носитель данных, на котором хранится программа для компьютера. Причем программа для компьютера, будучи загруженной в процессор и выполняемой им, заставляет процессор выполнять способ для модерации прямой трансляции согласно любому варианту осуществления настоящего раскрытия.
Краткое описание фигур
[17] На фиг. 1А показана блок-схема алгоритма способа для модерации прямой трансляции согласно первому варианту осуществления настоящего раскрытия;
[18] На фиг. 1B показана упрощенная схема процесса модерации прямой трансляции согласно первому варианту осуществления настоящего раскрытия;
[19] На фиг. 2А показана блок-схема алгоритма способа для модерации прямой трансляции согласно второму варианту осуществления настоящего раскрытия;
[20] На фиг. 2В показана упрощенная схема процесса модерации прямой трансляции согласно второму варианту осуществления настоящего раскрытия;
[21] На фиг. 3А показана блок-схема алгоритма способа для модерации прямой трансляции согласно третьему варианту осуществления настоящего раскрытия;
[22] На фиг. 3В показана упрощенная схема процесса модерации прямой трансляции согласно третьему варианту осуществления настоящего раскрытия;
[23] На фиг. 4 показана упрощенная блок-схема устройства для модерации прямой трансляции согласно четвертому варианту осуществления настоящего раскрытия; и
[24] На фиг. 5 показана упрощенная блок-схема сервера согласно пятому варианту осуществления настоящего раскрытия.
Подробное раскрытие настоящего изобретения
[25] Настоящее раскрытие подробно описано далее в настоящем документе со ссылками на прилагаемые фигуры и варианты осуществления. Описанные в настоящем документе варианты осуществления приведены только с целью объяснения настоящего раскрытия и не предназначены для ограничения настоящего раскрытия. Для упрощения описания на прилагаемых фигурах показаны только части, существенные для настоящего раскрытия, а не все части. Кроме того, варианты осуществления и признаки в вариантах осуществления настоящего раскрытия можно комбинировать друг с другом без какого-либо конфликта.
[26] Первый вариант осуществления
[27] На фиг. 1А показана блок-схема алгоритма способа для модерации прямой трансляции согласно первому варианту осуществления настоящего раскрытия. Этот вариант осуществления применим для модерации нарушения на экранах прямой трансляции в любой студии потокового вещания. Согласно этому варианту осуществления, способ модерации прямой трансляции выполняется с помощью устройства для модерации прямой трансляции согласно вариантам осуществления настоящего раскрытия. Устройство реализовано с помощью программных и/или аппаратных средств и встроено в сервер для выполнения этого способа. Сервер является внутренним сервером, обладающим возможностью модерации видеоданных.
[28] Как показано на фиг. 1А, в способе предусмотрены следующие стадии.
[29] На стадии S110 выполняется предварительная модерация нарушения в текущем кадре прямой трансляции в подлежащем модерации потоковом вещании студии на основании модели модерации высокой точности и модели модерации с высоким запоминанием, которые каскадированы друг с другом.
[30] Поскольку самые разные аудитории типично принимают участие в студии потокового вещания, в случае, когда контент некоторых студий прямой трансляции включает в себя или намекает на опасные темы, например, на терроризм, насилие, порнографию или политическую бестактность, контент с нарушением быстро распространяется по всему интернету. Следовательно, для предотвращения нежелательного воздействия контента с нарушением на жизнь пользователя, факт присутствия контента с нарушением необходимо проверять в режиме реального времени в процессе прямой трансляции.
[31] Согласно варианту осуществления, весь процесс модерации прямой трансляции разделяется на предварительную модерацию нарушения и вторичную модерацию нарушения для обеспечения полноты реализации модерации нарушения в прямой трансляции. В этом случае, в процессе предварительной модерации нарушения, очевидные сцены нарушения в прямой трансляции, которые легко опознаются, могут быть быстро обнаружены с помощью модерации. Во вторичном процессе модерации нарушения используется более строгая модерация нарушения по сравнению с предварительной модерацией нарушения для повторного выполнения модерации нарушения в кадре прямой трансляции, который может содержать контент нарушения, который нельзя точно определить в процессе предварительной модерации нарушения, что позволяет устранить проблемы ошибочного отбрасывания и ошибочного одобрения при модерации прямой трансляции, при этом также обеспечивается более полная модерация нарушения в текущем кадре прямой трансляции в подлежащем модерации потоковом вещании студии.
[32] Согласно варианту осуществления, две нейронные модели, а именно, модель модерации высокой точности и модель модерации с высоким запоминанием, предварительно построены в процессе предварительной модерации нарушения. Модель модерации высокой точности имеет возможности модерации нарушения с высокой точностью. В случае, когда модерации нарушения выполняется в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии с помощью модели модерации высокой точности, обнаруженный кадр с нарушением прямой трансляции с очень большой вероятностью содержит нарушение, так что устраняется проблема ошибочного отбрасывания при модерации нарушения. Модель модерации с высоким запоминанием имеет возможности модерации нарушения с высоким запоминанием. В случае, когда модерации нарушения выполняется в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии с помощью модели модерации с высоким запоминанием, контент нарушения в текущем кадре прямой трансляции может быть обнаружен, даже если текущий кадр прямой трансляции содержит очень малый контент нарушения, так что можно снизить проблему ошибочного одобрения при модерации нарушения.
[33] Согласно варианту осуществления, набор тренировочных выборок предварительно построен при обучении модели модерации высокой точности и модели модерации с высоким запоминанием. Набор тренировочных выборок содержит архивные кадры прямой трансляции в архиве видеороликов прямой трансляции для различных типов студий потокового вещания. На основании степени реального нарушения в каждом архивным кадре прямой трансляции и трудности точной модерации нарушения, тренировочные выборки в наборе тренировочных выборок разделены на четыре типа: простые позитивные выборки, простые негативные выборки, трудные позитивные выборки и трудные негативные выборки. Простые позитивные выборки и простые негативные выборки соответственно означают позитивные выборки и негативные выборки, которые просто распознаются на предмет нарушения этими моделями, а трудные позитивные выборки и трудные негативные выборки соответственно означают позитивные выборки и негативные выборки, которые с трудом распознаются на предмет нарушения этими моделями. Таким образом, поскольку модель модерации высокой точности имеет относительно высокие требования к точности модерации нарушения, тренировочные выборки для модели модерации высокой точности содержат простые позитивные выборки и простые негативные выборки в наборе тренировочных выборок, и параметры модели, структура сети и тому подобное модели модерации высокой точностью непрерывно оптимизируются при проверке, содержится ли контент с нарушением в простых позитивных выборках и в простых негативных выборках. Поскольку модель модерации с высоким запоминанием имеет относительно высокие требования к свойству запоминания модерации нарушения, тренировочные выборки для модели модерации с высоким запоминанием содержат трудные позитивные выборки и трудные негативные выборки в наборе тренировочных выборок, и обучение модерации выполняется на основе тренировочных выборок, которые с трудом проверяются на наличие нарушения, так что модель модерации с высоким запоминанием может также проверять и обнаруживать кадры с нарушением в прямой трансляции, которые с трудом находятся при модерации, и при этом обеспечивается свойства высокого запоминания для модерации нарушения с помощью модели модерации с высоким запоминанием.
[34] Между тем, поскольку модель модерации высокой точности обучается только для точности модерации нарушения и приводит к серьезным ошибочным одобрениям при модерации нарушения, а модель модерации с высоким запоминанием обладает возможностью высокого запоминания модерации нарушения и вызывает ошибочное одобрение при модерации нарушения в максимально возможной степени, модель модерации высокой точности каскадируется с моделью модерации с высоким запоминанием для обеспечения свойств высокой точности и высокого запоминания при предварительной модерации нарушения согласно варианту осуществления. Как показано на фиг. 1В, модель модерации высокой точности сначала используется для выполнения предварительной модерации нарушения в каждом текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии, а модель модерации с высоким запоминанием непрерывно выполняет модерацию нарушения в текущих кадрах прямой трансляции, в которых не было обнаружено нарушения моделью модерации высокой точности, так что двухслойные каскадированные модели модерации используются для выполнения модерации нарушения для завершения процесса предварительной модерации нарушения согласно варианту осуществления, и при этом обеспечиваются свойства высокой точности и высокого запоминания предварительной модерации нарушения.
[35] В процессе прямой трансляции видео из подлежащего модерации потокового вещания студии, изображение прямой трансляции захватывается из подлежащего модерации потокового вещания студии через заранее определенный интервал времени (например, через каждые 2 сек) и это изображение определяется в качестве текущего кадра прямой трансляции согласно варианту осуществления, и текущий кадр прямой трансляции вводится в модель модерации высокой точности в каскадной двухслойной сети. Модель модерации высокой точности определяет, присутствует ли контент нарушения в текущем кадре прямой трансляции. В случае, когда текущий кадр прямой трансляции проходит через модерацию нарушения в модели модерации высокой точности, модель модерации высокой точности определяет, что никакого контента нарушения не присутствует в текущем кадре прямой трансляции. Поскольку модель модерации высокой точности вызывает неправильное одобрение при модерации нарушения, текущий кадр прямой трансляции необходимо затем ввести в модель модерации с высоким запоминанием в каскадной двухслойной сети, и модель модерации с высоким запоминанием продолжает определять, присутствует ли контент нарушения в текущем кадре прямой трансляции, так что завершается предварительная модерацию нарушения, выполняемая в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии.
[36] В этом случае модель модерации с высоким запоминанием обладает двумя результатами модерации нарушения в текущем кадре прямой трансляции. 1) В случае, когда текущий кадр прямой трансляции не проходит через модерацию нарушения в модели модерации с высоким запоминанием, модель модерации с высоким запоминанием может определить, что контент нарушения присутствует в текущем кадре прямой трансляции и непосредственно подтвердить, что текущий кадр прямой трансляции из подлежащего модерации потокового вещания студии является кадром с нарушением. 2) В случае, когда текущий кадр прямой трансляции проходит через модерацию нарушения в модели модерации с высоким запоминанием, модель модерации с высоким запоминанием определяет, что никакого контента нарушения не присутствует в текущем кадре прямой трансляции, и предварительно построенную модель модерации поведения необходимо впоследствии использовать для непрерывного выполнения модерации нарушения в текущем кадре прямой трансляции.
[37] На стадии S120 целевая балльная оценка нарушения в текущем кадре прямой трансляции получается с помощью ввода первой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации поведения после прохождения текущим кадром прямой трансляции предварительной модерации нарушения.
[38] Согласно некоторым вариантам осуществления, в случае, когда текущий кадр прямой трансляции из подлежащего модерации потокового вещания студии проходит через модерацию нарушения в модели модерации высокой точности и в модели модерации с высоким запоминанием, текущий кадр прямой трансляции прошел предварительную модерацию нарушения, и необходимо выполнить вторичную модерацию нарушения, чтобы обеспечить точность и полноту реализации модерации нарушения.
[39] При выполнении предварительной модерации нарушения в текущем кадре прямой трансляции с помощью модели модерации высокой точности и модели модерации с высоким запоминанием, которые каскадированы друг с другом, анализ нарушения обычно выполняется по информации визуального изображения прямой трансляции в текущем кадре прямой трансляции. В этом случае модель модерации высокой точности выдает первую балльную оценку нарушения в текущем кадре прямой трансляции, а модель модерации с высоким запоминанием выдает вторую балльную оценку нарушения в текущем кадре прямой трансляции. Обе первая балльная оценка нарушения и вторая балльная оценка нарушения могут представлять признаки визуального изображения в текущем кадре прямой трансляции.
[40] Однако контент прямой трансляции в студии потокового вещания является разнообразным, и служба потокового вещания взаимодействует с аудиторией в студии потокового вещания по поводу контента прямой трансляции, например, поощряя потоковое вещание, комментируя его на общедоступном экране, и показывая архив нарушений службы потокового вещания, так что поведение и взаимодействие в студии потокового вещания можно также использовать в качестве образца для определения, присутствует ли контент нарушения в текущем кадре прямой трансляции. Следовательно, согласно вариантам осуществления, после прохождения текущего кадра прямой трансляции через процесс предварительной модерации нарушения, при выполнении вторичной модерации нарушения в текущем кадре прямой трансляции, многомерный признак поведения текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии определяется с помощью анализа множества поведений взаимодействия при прямой трансляции службы потокового вещания и аудитории в студии, потоковое вещание из которой подлежит модерации, непосредственно во время прямой трансляции текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии в дополнение к рассмотрению признаков визуального изображения, представленных первой балльной оценкой нарушения в текущем кадре прямой трансляции из модели модерации высокой точности и второй балльной оценкой нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием. Как показано на фиг. 1В, признаки визуального изображения, представленные первой балльной оценкой нарушения и второй балльной оценкой нарушения в текущем кадре прямой трансляции и многомерным признаком поведения, определенным по множеству поведений взаимодействия при прямой трансляции из подлежащего модерации потокового вещания студии, объединяются вместе и совместно вводятся в предварительно построенную модель модерации поведения. Модель модерации поведения может выполнить анализ методом слияния признаков визуального изображения, представленных первой балльной оценкой нарушения и второй балльной оценкой нарушения и многомерным признаком поведения, определенным по множеству поведений взаимодействия при прямой трансляции из подлежащего модерации потокового вещания студии для единообразного определения, присутствует ли контент нарушения в текущем кадре прямой трансляции, так что выводится целевая балльная оценка нарушения в текущем кадре прямой трансляции. В этом случае вторичная модерация нарушения выполняется по целевой балльной оценке нарушения, основанной на многофакторном анализе признаков методом слияния для признаков визуального изображения и многомерного признака поведения без использования дополнительного устройства модерации, так что снижаются затраты на модерацию нарушения потокового вещания студии и обеспечиваются свойства точности и запоминания.
[41] Согласно техническим решениям, предложенным в варианте осуществления, предварительная модерации нарушения выполняется в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии с помощью каскадированных модели модерации высокой точности и модели модерации с высоким запоминанием, так что кадр с нарушением прямой трансляции, который легко различается и имеет очевидное нарушение, быстро обнаруживается и смягчается. В случае текущего кадра прямой трансляции, который прошел через процесс предварительной модерации нарушения, и его сложно различить или он содержит неочевидное нарушение, для текущего кадра прямой трансляции снова выполняется единообразный анализ признаков, объединяющий признаки визуального изображения и признаки поведения с помощью модели модерации поведения, основанной на первой балльной оценке нарушения в текущем кадре прямой трансляции согласно результатам модели модерации высокой точности и второй балльной оценке нарушения в текущем кадре прямой трансляции согласно результатам модели модерации с высоким запоминанием и в совокупности с многомерным признаком поведения текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии, так что получается целевая балльная оценка нарушения в текущем кадре прямой трансляции, и достигается полнота реализации модерации нарушения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии. Устраняются проблемы ошибочного отбрасывания и ошибочного одобрения при модерации прямой трансляции, и точность и процент запоминания при модерации прямой трансляции улучшаются совместно со снижением расходов на модерацию нарушения.
[42] Второй вариант осуществления
[43] На фиг. 2А показана блок-схема алгоритма способа для модерации прямой трансляции согласно второму варианту осуществления настоящего раскрытия и на фиг. 2В показана упрощенная схема процесса модерации прямой трансляции согласно второму варианту осуществления настоящего раскрытия. Этот вариант осуществления объясняется на основе описанного выше варианта осуществления. Как показано на фиг. 2А, в этом варианте осуществления объясняются вторичный процесс модерации нарушения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии и процесс построения модели модерации поведения.
[44] Согласно некоторым вариантам осуществления, как показано на фиг. 2А, в варианте осуществления предусмотрены следующие стадии.
[45] На стадии S210 выполняется предварительная модерация нарушения в текущем кадре прямой трансляции в подлежащем модерации потоковом вещании студии на основании модели модерации высокой точности и модели модерации с высоким запоминанием, которые каскадированы друг с другом.
[46] На стадии S220 признак поведения прямой трансляции текущего кадра прямой трансляции получается с помощью комбинирования первой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии после прохождения текущим кадром прямой трансляции предварительной модерации нарушения.
[47] Согласно некоторым вариантам осуществления, в случае, когда текущий кадр прямой трансляции проходит через предварительную модерацию нарушения, обе модели, модель модерации высокой точности и модель модерации с высоким запоминанием, определяют, что никакого контента нарушения не присутствует в текущем кадре прямой трансляции. Следовательно, вторичная модерация нарушения выполняется для текущего кадра прямой трансляция на основании признаков визуального изображения текущего кадра прямой трансляции и признаков поведения текущего кадра прямой трансляции, чтобы обеспечить точность модерации прямой трансляции и избежать ошибочного одобрения при модерации нарушения. В этом случае определяются первая балльная оценка нарушения в текущем кадре прямой трансляции с помощью модели модерации высокой точности и вторая балльная оценка нарушения в текущем кадре прямой трансляции с помощью модели модерации с высоким запоминанием. Первая балльная оценка нарушения и вторая балльная оценка нарушения определяются как признаки визуального изображения, соответствующего текущему кадру прямой трансляции. В то же самое время многомерный признак поведения текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии определяется на основании множества поведений взаимодействия при прямой трансляции подлежащего модерации потокового вещания студии во время прямой трансляции текущего кадра прямой трансляции. Признак поведения при прямой трансляции текущего кадра прямой трансляции получается с помощью комбинирования первой балльной оценки нарушения, второй балльной оценки нарушения и многомерного признака поведения, и он определяется как многофакторный признак в методе слияния во время вторичной модерации нарушения. Признак поведения при прямой трансляции впоследствии используется для определения, присутствует ли контент нарушения в текущем кадре прямой трансляции, так что можно обеспечить полноту реализации и точность модерации нарушения при прямой трансляции.
[48] Например, параметр поведения при прямой трансляции согласно варианту осуществления обозначается как X=(x1, х2, …, x11). Здесь x1 обозначает первую балльную оценку нарушения в текущем кадре прямой трансляции, полученную моделью модерации высокой точности, х2 обозначает вторую балльную оценку нарушения в текущем кадре прямой трансляции, полученную моделью модерации с высоким запоминанием, х3 обозначает число человек в аудитории в реальном времени при подлежащем модерации потоковом вещании студии в многомерном признаке поведения, х4 обозначает число комментариев, опубликованных пользователями на общедоступном экране при подлежащем модерации потоковом вещании студии, в многомерном признаке поведения, х5 обозначает число комментариев о нарушении на общедоступном экране при подлежащем модерации потоковом вещании студии в многомерном признаке поведения, х6 обозначает процентное отношение числа комментариев о насилии на общедоступном экране ко всем комментариям на общедоступном экране при подлежащем модерации потоковом вещании студии в многомерном признаке поведения, х7 обозначает число поощрений прямой трансляции при подлежащем модерации потоковом вещании студии в многомерном признаке поведения, х8 обозначает число архивных нарушений службы потокового вещания при подлежащем модерации потоковом вещании студии в многомерном признаке поведения, х9 обозначает процентное отношение архивных нарушений службы потокового вещания при подлежащем модерации потоковом вещании студии в многомерном признаке поведения, х10 обозначает число архивных голосовых нарушений службы потокового вещания при подлежащем модерации потоковом вещании студии в многомерном признаке поведения и x11 обозначает процентное отношение архивных голосовых нарушений службы потокового вещания при подлежащем модерации потоковом вещании студии в многомерном признаке поведения.
[49] Многомерный признак поведения, согласно варианту осуществления, динамически настраивается для обеспечения точности модерации нарушения при прямой трансляции, это никак не ограничивается в настоящем раскрытии.
[50] На стадии S230 целевая балльная оценка нарушения в текущем кадре прямой трансляции получается с помощью ввода признака поведения прямой трансляции в модель модерации поведения.
[51] Согласно некоторым вариантом осуществления, после получения признака поведения прямой трансляции, признак поведения при прямой трансляции определяется как многофакторный признак нарушения в методе слияния, и он вводится в предварительно построенную модель модерации поведения. Анализ по методу слияния выполняется по значению признака для каждой размерности признака поведения при прямой трансляции с помощью модели модерации поведения для определения, присутствует ли в информации контент нарушения, выводится целевая балльная оценка нарушения в текущем кадре прямой трансляции, и затем на основании целевой балльной оценки нарушения определяется, присутствует ли контент нарушения в текущем кадре прямой трансляции, так что улучшается точность модерации прямой трансляции.
[52] Например, согласно варианту осуществления, построение модели модерации поведения проводится с помощью: извлечения соответствующего архивного кадра прямой трансляции из каждого архивного видео прямой трансляции в набор архивных видео прямой трансляции и определения многомерного архивного признака поведения для каждого архивного кадра прямой трансляции из студии прямого вещания, в которой расположен каждый архивный кадр прямой трансляции и метка нарушения для архивного кадра прямой трансляции; получения архивной балльной оценки нарушения архивного кадра прямой трансляции с помощью ввода первой архивной балльной оценки нарушения архивного кадра прямой трансляции в модель модерации высокой точности, второй архивной балльной оценки нарушения архивного кадра прямой трансляции в модель модерации с высоким запоминанием, и многомерного архивного признака поведения архивного кадра прямой трансляции из студии потокового вещания в заранее построенную модель модерации поведения для каждого архивного кадра прямой трансляции; и непрерывной оптимизации модели модерации поведения для минимизации разницы между архивной балльной оценкой нарушения и меткой нарушения для каждого архивного кадра прямой трансляции.
[53] Построение набора архивных видео прямой трансляции для построения модели проводится с помощью поиска архивных видео прямой трансляции во множестве студий потокового вещания. Поскольку модерации нарушения в основном выполняется по кадрам прямой трансляции в процессе прямой трансляции во время модерации нарушения в студиях потокового вещания, необходимо выполнить извлечение видеокадра из каждого архивного видео прямой трансляции в наборе архивных видео прямой трансляции. Например, архивное изображение прямой трансляции захватывается из каждого архивного видео через каждый заранее определенный интервал времени, и оно определяется в качестве архивного кадра прямой трансляции, извлеченного из архивного видео прямой трансляции. В этом случае все извлеченные архивные кадры прямой трансляции образуют выборки построения модели для модели модерации поведения.
[54] В этом случае для успешного построения модели модерации поведения необходимо настроить множество признаков построения модели для использования в качестве образца в процессе построения модели и для достижения цели оптимизации построения модели модерации поведения, так что фактические условия построения модели с учетом множества признаков построения модели будут оптимизированы с учетом цели оптимизации построения модели. Например, согласно варианту осуществления, признаки построения модели обозначаются как X=(x1, х2, x11). Здесь x1 обозначает первую архивную балльную оценку нарушения в архивном кадре прямой трансляции, полученную моделью модерации высокой точности, х2 обозначает вторую архивную балльную оценку нарушения в архивном кадре прямой трансляции, полученную моделью модерации с высоким запоминанием, х3 обозначает число человек в аудитории в реальном времени в студии потокового вещания в архивном кадре прямой трансляции в многомерном архивном признаке поведения, х4 обозначает число комментариев, опубликованных пользователями на общедоступном экране в студии потокового вещания в архивном кадре прямой трансляции, в многомерном архивном признаке поведения, х5 обозначает число комментариев о нарушении на общедоступном экране в студии потокового вещания в архивном кадре прямой трансляции в многомерном архивном признаке поведения, x6 обозначает процентное отношение числа комментариев о нарушении на общедоступном экране ко всем комментариям на общедоступном экране в студии потокового вещания в архивном кадре прямой трансляции в многомерном архивном признаке поведения, х7 обозначает число поощрений прямой трансляции в студии потокового вещания в архивном кадре прямой трансляции в многомерном архивном признаке поведения, х8 обозначает число архивных нарушений службы потокового вещания в студии потокового вещания в архивном кадре прямой трансляции в многомерном архивном признаке поведения, х9 обозначает процентное отношение архивных нарушений службы потокового вещания в архивном кадре прямой трансляции в студии потокового вещания в многомерном архивном признаке поведения, х10 обозначает число архивных голосовых нарушений службы потокового вещания в студии потокового вещания в архивном кадре прямой трансляции в многомерном архивном признаке поведения и x11 обозначает процентное отношение архивных голосовых нарушений службы потокового вещания в студии потокового вещания в архивном кадре прямой трансляции в многомерном архивном признаке поведения.
[55] Поскольку многомерные архивные признаки поведения во множестве признаков построения модели в архивных кадрах прямой трансляции в студиях потокового вещания определяются в ходе архивного процесса прямого вещания, после извлечения соответствующего архивного кадра прямой трансляции из каждого архивного видео прямой трансляции многомерный архивный признак поведения каждого архивного кадра прямой трансляции в студии потокового вещания определяется с помощью определения архивных поведений взаимодействия при прямой трансляции архивного кадра прямой трансляции в студии потокового вещания. В то же самое время определяется метка нарушения каждого архивного кадра прямой трансляции, как показано на фиг. 2В, так что непрерывная оптимизации построения модели впоследствии выполняется с учетом цели оптимизации построения модели. При обработке каждого архивного кадра прямой трансляции каждый архивный кадр прямой трансляции, согласно варианту осуществления, вводится в модель модерации высокой точности и в модель модерации с высоким запоминанием, так что для каждого архивного кадра прямой трансляции получаются первая архивная балльная оценка нарушения и вторая архивная балльная оценка нарушения. Согласно вышеуказанному, первая архивная балльная оценка нарушения каждого архивного кадра прямой трансляции, вторая архивная балльная оценка нарушения каждого архивного кадра прямой трансляции и многомерный архивный признак поведения в каждом архивном кадре прямой трансляции из потокового вещания студии объединяются для образования признаков построения модели, соответствующей каждому архивному кадру прямой трансляции, и архивные балльные оценки нарушения в каждом архивным кадре прямой трансляции получаются с помощью непрерывного ввода признаков модели построения, соответствующих каждому архивному кадру прямой трансляции в модели модерации поведения.
[56] В этом случае, согласно варианту осуществления, цель оптимизации построения модели для модели модерации поведения заключается в минимизации разницы между архивной балльной оценкой нарушения и меткой нарушения в каждом архивном кадре прямой трансляции. Следовательно, разница между архивной балльной оценкой нарушения каждого архивного кадра прямой трансляции и меткой нарушения каждого архивного кадра прямой трансляции непрерывно анализируется в ходе процесса оптимизации построения модели и эта разница непрерывно уменьшается с помощью оптимизации математических параметров модели модерации поведения, так что достигается цель минимизации разницы между архивной балльной оценкой нарушения и меткой нарушения в архивном кадре прямой трансляции, и получается окончательно оптимизированная модель модерации поведения. В этом случае, окончательно оптимизированная модель модерации поведения имеет возможности модерации нарушения с высокой точностью.
[57] Например, согласно варианту осуществления, цель оптимизации построения модели для модели модерации поведения выражается формулой:
. Здесь xi обозначает признак построения модели для i-го архивного кадра прямой трансляции, yi обозначает метку нарушения для i-го архивного кадра прямой трансляции, yi=1 указывает присутствие контента нарушения, yi=0 указывает отсутствие какого-либо контента нарушения, 
обозначает архивную балльную оценку нарушения, определенную моделью модерации для i-го архивного кадра прямой трансляции, V=(x1,x2,L,xm) указывает выборку для построения модели, включающую архивные кадры прямой трансляции, m обозначает количество выборок, а p(xi) обозначает величину вероятности предсказания xi, полученную с помощью модели модерации поведения.
[58] Согласно техническим решениям, предложенным в варианте осуществления, модель модерации поведения построена на основании цели оптимизации построения модели, заключающейся в минимизации разницы между архивной балльной оценкой нарушения и меткой нарушения в каждом архивном кадре прямой трансляции, так что на основании модели модерации поведения можно обеспечить точность модерации нарушения. Признак поведения прямой трансляции текущего кадра прямой трансляции впоследствии получается с помощью комбинирования первой балльной оценки нарушения в текущем кадре прямой трансляции в подлежащем модерации потоковом вещании студии из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции в подлежащем модерации потоковом вещании студии из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии, и анализ многофакторного признака нарушения выполняется по признаку поведения в прямой трансляции с помощью построенной модели модерации поведения, так что улучшаются точность и процент запоминаемости при модерации прямого трансляции.
[59] Третий вариант осуществления
[60] На фиг. 3А показана блок-схема алгоритма способа для модерации прямой трансляции согласно третьему варианту осуществления настоящего раскрытия и на фиг. 3В показана упрощенная схема процесса модерации прямой трансляции согласно третьему варианту осуществления настоящего раскрытия. Этот вариант осуществления объясняется на основе описанного выше варианта осуществления. Как показано на фиг. 3А, в этом варианте осуществления объясняется общий процесс модерации нарушения из подлежащего модерации потокового вещания студии.
[61] Согласно некоторым вариантам осуществления, как показано на фиг. 3А, в варианте осуществления предусмотрены следующие стадии.
[62] На стадии S310 первая балльная оценка нарушения в текущем кадре прямой трансляции получается при вводе текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации высокой точности.
[63] Согласно некоторым вариантам осуществления, при выполнении модерации нарушения в подлежащем модерации потоковом вещании студии, факт присутствия контента нарушения в изображении прямой трансляции проверяется в режиме реального времени в ходе процесса прямой трансляции, так что модерацию нарушения необходимо выполнить для текущего кадра прямой трансляции в ходе процесса прямой трансляции в режиме реального времени. Текущий кадр прямой трансляции вводится в предварительно построенную модель модерации высокой точности, над изображением прямой трансляции в текущем кадре прямой трансляции с помощью модели модерации высокой точности проводится предварительная модерация нарушения, так что выводится первая балльная оценка нарушения в текущем кадре прямой трансляции. Затем факт присутствия контента нарушения в текущем кадре прямой трансляции определяется в дальнейшем с помощью определения того, превышает ли первая балльная оценка нарушения предварительно определенный порог точности нарушения.
[64] На стадии S320 определяется, превышает ли первая балльная оценка нарушения предварительно определенный порог точности нарушения; и если она превышает, то выполняется стадия S380, а если не превышает, выполняется стадия S330.
[65] На стадии S330 вторая балльная оценка нарушения в текущем кадре прямой трансляции получается при непрерывном вводе текущего кадра прямой трансляции в предварительно построенную модель модерации с высоким запоминанием.
[66] Согласно некоторым вариантам осуществления, в случае, когда первая балльная оценка нарушения не превышает предварительно определенный порог точности нарушения, модель модерации высокой точности определяет, что никакого контента нарушения не присутствует в текущем кадре прямой трансляции. Однако, поскольку модель модерации высокой точностью имеет ошибочное одобрение при модерации нарушения, текущий кадр прямой трансляции необходимо непрерывным вводить в предварительно построенную модель модерации с высоким запоминанием. Как показано на фиг. 3В, соответствующая модерации нарушения непрерывно выполняется над изображением прямой трансляции в текущем кадре прямой трансляции с помощью модели модерации с высоким запоминанием, так что выводится вторая балльная оценка нарушения в текущем кадре прямой трансляции. Затем факт присутствия контента нарушения в текущем кадре прямой трансляции определяется снова с помощью последующего определения того, превышает ли вторая балльная оценка нарушения предварительно определенный порог запоминания нарушения.
[67] На стадии S340 определяется, превышает ли вторая балльная оценка нарушения предварительно определенный порог запоминания нарушения; и если она превышает, то выполняется стадия S380, а если не превышает, выполняется стадия S350.
[68] В случае, когда вторая балльная оценка нарушения не превышает предварительно определенный порог запоминания нарушения, модель модерации с высоким запоминанием также определяет, что никакого контента нарушения не присутствует в текущем кадре прямой трансляции. Таким образом, текущий кадр прямой трансляции проходит через модерацию нарушения в модели модерации высокой точности и в модели модерации с высоким запоминанием, а именно, текущий кадр прямой трансляции прошел предварительную модерацию нарушения. Вторичная модерация нарушения непрерывно выполняется над текущим кадром прямой трансляции при помощи модели поведения. Текущий кадр прямой трансляции определяется как прошедший предварительную модерацию нарушения в случае, когда первая балльная оценка нарушения в текущем кадре прямой трансляции не превышает предварительно определенный порог точности нарушения, и вторая балльная оценка нарушения в текущем кадре прямой трансляции не превышает предварительно определенный порог запоминания нарушения.
[69] На стадии S350 целевая балльная оценка нарушения в текущем кадре прямой трансляции получается с помощью ввода первой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации поведения.
[70] На стадии S360 определяется, превышает ли целевая балльная оценка нарушения предварительно определенный порог поведения нарушения; и если она превышает, то выполняется стадия S380, а если не превышает, выполняется стадия S370.
[71] Согласно некоторым вариантам осуществления, после вывода целевой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации поведения, окончательно проверяется, присутствует ли в текущем кадре прямой трансляции контент нарушения с помощью определения, превышает ли целевая балльная оценка нарушения предварительно определенный порог поведения нарушения, так что выполняются различные процессы обработки прямой трансляции.
[72] На стадии S370 новый текущий кадр прямой трансляции извлекается из подлежащего модерации потокового вещания студии через период времени с предварительно определенной длительностью прямой трансляции, и модерация нарушения непрерывно выполняется над новым текущим кадром прямой трансляции.
[73] Согласно некоторым вариантам осуществления, в случае, когда целевая балльная оценка нарушения не превышает предварительно определенный порог поведения нарушения, модель модерации поведения определяет, что никакого контента нарушения не присутствует в текущем кадре прямой трансляции. В этом случае, согласно варианту осуществления, все три модели определили, что никакого контента нарушения не присутствует в текущем кадре прямой трансляции, и определено, что текущий кадр прямой трансляции является кадром без нарушения, что указывает, что никакого контента нарушения не присутствует в подлежащем модерации потоковом вещании студии в данный момент. В этом случае, для получения мгновенности модерации нарушения в студии потокового вещания, через интервал с предварительно определенной длительностью прямой трансляции (например, через каждые 2 сек), новое изображение прямой трансляции непрерывно захватывается из подлежащего модерации потокового вещания студии в текущее время прямой трансляции, и оно определяется как новый полученный текущий кадр прямой трансляции. Модерация нарушения непрерывно выполняется над новым текущим кадром прямой трансляции согласно стадиям от S310 до S380 варианта осуществления, так что модерации в реальном времени выполняется над подлежащим модерации потоковым вещанием студии, пока не закончится прямая трансляция или в прямой трансляции не будет найден кадр с нарушением.
[74] На стадии S380 информация прямой трансляции из подлежащего модерации потокового вещания студии помещается на платформу ручной модерации.
[75] Согласно некоторым вариантам осуществления, в случае, когда первая балльная оценка нарушения превышает предварительно определенный порог точности нарушения или вторая балльная оценка нарушения превышает предварительно определенный порог запоминания нарушения, или целевая балльная оценка нарушения превышает предварительно определенный порог поведения нарушения, используемая для текущей модерации модель определяет, что в текущем кадре прямой трансляции присутствует контент нарушения. Как показано на фиг. 3В, согласно варианту осуществления, дополнительно предложена дополнительная платформа ручной модерации для устранения ложного отбрасывания при модерации нарушения. В случае, когда при выполнении модерации в текущем кадре прямой трансляции найден контент нарушения, информация прямой трансляции из подлежащего модерации потокового вещания студии о текущем кадре прямой трансляции помещается на платформу ручной модерации для дальнейшего выполнения ручной модерации по контенту прямой трансляции из подлежащего модерации потокового вещания студии, так что обеспечивается точность модерации прямой трансляции.
[76] Согласно варианту осуществления, информация прямой трансляции из подлежащего модерации потокового вещания студии является адресом прямой трансляции из подлежащего модерации потокового вещания студии, изображением из потокового видео или тому подобным, это никак не ограничивается в настоящем раскрытии.
[77] На стадии S390 элементы взаимодействия при прямой трансляции в подлежащем модерации потоковом вещании студии отслеживаются в режиме реального времени, информация прямой трансляции из подлежащего модерации потокового вещания студии помещается на платформу ручной модерации после определения, что элементы взаимодействия при прямой трансляции превышают предварительно определенный порог взаимодействия, и останавливается модерация нарушения, выполнявшаяся над текущим кадром прямой трансляции из подлежащего модерации потокового вещания студии.
[78] Согласно некоторым вариантам осуществления, необходимость непосредственно поместить информацию прямой трансляции на платформу ручной модерации для проведения ручной модерации определяется с помощью отслеживания элементов взаимодействия при прямой трансляции в подлежащем модерации потоковом вещании студии в режиме реального времени при условии достижения модерации прямой трансляции с помощью построенных моделей для устранения аномалий в модерации нарушения и обеспечения высокого процента запоминаемости при модерации прямой трансляции, и ручная модерация определяется как аномальная модерация, обеспечивающая решение для модерации прямой трансляции. В этом случае элементы взаимодействия при прямой трансляции включают в себя некоторое число видов прямой трансляции, некоторое число поощрений прямой трансляции и тому подобное в подлежащем модерации потоковом вещании студии, так что анализируется степень одобрения в подлежащем модерации потоковом вещании студии. В случае, когда элементы взаимодействия при прямой трансляции превышают предварительно определенный порог взаимодействия, степень одобрения подлежащего модерации потокового вещания студии является очень высокой. Контент нарушения быстро распространяется после того, как он появился. Следовательно, информацию прямой трансляции из подлежащего модерации потокового вещания студии необходимо непосредственно поместить на платформу ручной модерации для выполнения ручной модерации с целью обеспечения высокой эффективности модерации нарушения при прямой трансляции. В то же самое время останавливается модерация нарушения, выполнявшаяся над текущим кадром прямой трансляции в подлежащем модерации потоковом вещании студии с помощью нескольких построенных моделей.
[79] Согласно техническим решениям, предложенным в варианте осуществления, после обнаружения контента нарушения в текущем кадре прямой трансляции, информация прямой трансляции из подлежащего модерации потокового вещания студии о текущем кадре прямой трансляции непосредственно помещается на платформу ручной модерации для выполнения ручной модерации, так что исключается ложное отбрасывание при модерации нарушения и улучшается точность модерации нарушения при прямой трансляции. В то же самое время аномальное решение, обеспечивающее выполнение модерации прямой трансляции, дополнительно настраивается на основании элементов взаимодействия при прямой трансляции в подлежащем модерации потоковом вещании студии, и обеспечивается полнота выполнения модерации нарушения при прямой трансляции.
[80] Четвертый вариант осуществления
[81] На фиг. 4 показана упрощенная блок-схема устройства для модерации прямой трансляции согласно четвертому варианту осуществления настоящего раскрытия. Как показано на фиг. 4, устройство для модерации прямой трансляции включает в себя:
[82] модуль 410 предварительной модерации, выполненный с возможностью проводить предварительную модерацию нарушения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии с помощью модели модерации высокой точности и модели модерации с высоким запоминанием, которые каскадированы друг с другом; и
[83] модуль 420 определения балльной оценки нарушения, выполненный с возможностью получить целевую балльную оценку нарушения в текущем кадре прямой трансляции с помощью ввода первой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации поведения после прохождения текущим кадром прямой трансляции предварительной модерации нарушения.
[84] Согласно техническим решениям, предложенных в вариантах осуществления, предварительная модерации нарушения выполняется в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии с помощью каскадированных модели модерации высокой точности и модели модерации с высоким запоминанием, так что кадр с нарушением прямой трансляции, который легко различается и имеет очевидное нарушения, быстро обнаруживается и смягчается. В случае текущего кадра прямой трансляции, который прошел через процесс предварительной модерации нарушения, и его сложно различить или он содержит неочевидное нарушение, для текущего кадра прямой трансляции снова выполняется единообразный анализ признаков, объединяющий признаки визуального изображения и признаки поведения с помощью модели модерации поведения, основанной на первой балльной оценке нарушения в текущем кадре прямой трансляции согласно результатам модели модерации высокой точности и второй балльной оценке нарушения в текущем кадре прямой трансляции согласно результатам модели модерации с высоким запоминанием и в совокупности с многомерным признаком поведения текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии, так что получается целевая балльная оценка нарушения в текущем кадре прямой трансляции, и достигается полнота реализации модерации нарушения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии. Устраняются проблемы ошибочного отбрасывания и ошибочного одобрения при модерации прямой трансляции и точность и процент запоминания при модерации прямой трансляции улучшаются совместно со снижением расходов на модерацию нарушения.
[85] Согласно варианту осуществления, устройство для модерации прямой трансляции применимо для выполнения способа модерации прямой трансляции согласно любому вышеупомянутому варианту осуществления, и обладает соответствующими функциями и действиями.
[86] Пятый вариант осуществления
[87] На фиг. 5 показана упрощенная блок-схема сервера согласно пятому варианту осуществления настоящего раскрытия. Как показано на фиг. 5, сервер включает в себя процессор 50, память 51 и устройство передачи данных 52. Количество процессоров 50 в сервере равно одному или нескольким, и в качестве примера, на фиг. 5 показан один процессор 50. Процессор 50, память 51 и устройство передачи данных 52 в сервере соединены друг с другом с помощью шины или другими средствами, и в качестве примера, они соединены шиной на фиг. 5.
[88] Согласно варианту осуществления, сервер применим для выполнения способа модерации прямой трансляции согласно любому вышеупомянутому варианту осуществления, и обладает соответствующими функциями и действиями.
[89] Шестой вариант осуществления
[90] Согласно шестому варианту осуществления настоящего раскрытия дополнительно предложен энергонезависимый машиночитаемый носитель данных, на котором хранится программа для компьютера. Причем программа для компьютера, будучи загруженной в процессор и выполняемой им, заставляет процессор выполнять способ согласно любому из вышеупомянутых вариантов осуществления. В способе предусмотрены следующие стадии:
[91] Выполнение предварительной модерации нарушения в текущем кадре прямой трансляции в подлежащем модерации потоковом вещании студии на основании модели модерации высокой точности и модели модерации с высоким запоминанием, которые каскадированы друг с другом; и
[92] получение целевой балльной оценки нарушения в текущем кадре прямой трансляции с помощью ввода первой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации поведения после прохождения текущим кадром прямой трансляции предварительной модерации нарушения.
[93] Согласно вариантам осуществления настоящего раскрытия, предложен носитель данных, на котором содержатся выполняемые компьютером команды. Выполняемые компьютером команды не ограничены выполнением операций вышеупомянутого способа, а также могут выполнять сопутствующие операции, относящиеся к способу для модерации прямой трансляции согласно любому варианту осуществления настоящего раскрытия. Носитель данных может быть энергонезависимым носителем данных.
[94] Настоящее раскрытие может быть реализовано с помощью программного обеспечения, аппаратного обеспечения общего назначения или аппаратуры. Технические решения настоящего раскрытия реализованы в виде программного продукта. Программный продукт для компьютера хранится на машиночитаемом носителе данных, например, на гибкой дискете, в постоянном запоминающем устройстве (ПЗУ), в оперативном запоминающем устройстве (ОЗУ), во флеш-памяти, на жестком диске или на оптическом диске компьютера, и может содержать в себе несколько команд для указания вычислительному устройству (которое может быть персональным компьютером, сервером, сетевым устройством или тому подобным), как выполнить способ для модерации прямой трансляции согласно вариантам осуществления настоящего раскрытия.
[95] Согласно вышеупомянутым вариантам осуществления устройства для модерации прямой трансляции множество его блоков и модулей разделены только согласно функциональной логике, но они не ограничены вышеупомянутым разделением, при условии обеспечения реализации соответствующих функций. Кроме того, названия множества функциональных блоков указаны только для удобства различения их друг от друга, и они не предназначены для ограничения объема правовой охраны настоящего раскрытия.
Изобретение относится к области модерации контента. Техническим результатом является устранение ошибочного отбрасывания или ошибочного одобрения в процессе прямой трансляции. Способ предусматривает следующие стадии: выполнение, с помощью модели проверки высокой точности и модели проверки с высоким запоминанием, которые каскадированы, предварительной проверки нарушения в текущем кадре прямой трансляции из подлежащего проверке потокового вещания студии; и если текущий кадр прямой трансляции прошел предварительную проверку на нарушение, ввод в предварительно построенную модель проверки поведения первой балльной оценки нарушения в текущем кадре прямой трансляции из модели проверки высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели проверки с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из вышеуказанного потокового вещания студии для получения целевой балльной оценки нарушения в текущем кадре прямой трансляции. 4 н. и 6 з.п. ф-лы, 8 ил.
1. Способ для модерации прямой трансляции, предусматривающий следующие стадии:
выполнение предварительной модерации нарушения в текущем кадре прямой трансляции в подлежащем модерации потоковом вещании студии на основании модели модерации высокой точности и модели модерации с высоким запоминанием, которые каскадированы друг с другом; и
получение целевой балльной оценки нарушения в текущем кадре прямой трансляции с помощью ввода первой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации поведения после прохождения текущим кадром прямой трансляции предварительной модерации нарушения;
причем выполнение предварительной модерации нарушения в текущем кадре прямой трансляции в подлежащем модерации потоковом вещании студии на основании модели модерации высокой точности и модели модерации с высоким запоминанием, которые каскадированы друг с другом, предусматривает следующие стадии:
получение первой балльной оценки нарушения в текущем кадре прямой трансляции с помощью ввода текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации высокой точности; и
получение второй балльной оценки нарушения в текущем кадре прямой трансляции с помощью непрерывного ввода текущего кадра прямой трансляции в предварительно построенную модель модерации с высоким запоминанием после определения, что первая балльная оценка нарушения не превышает предварительно определенный порог точности нарушения;
причем текущий кадр прямой трансляции определяется как прошедший предварительную модерацию нарушения в случае, когда первая балльная оценка нарушения в текущем кадре прямой трансляции не превышает предварительно определенный порог точности нарушения и вторая балльная оценка нарушения в текущем кадре прямой трансляции не превышает предварительно определенный порог запоминания нарушения.
2. Способ по п.1, отличающийся тем, что получение целевой балльной оценки нарушения в текущем кадре прямой трансляции с помощью ввода первой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации поведения предусматривает следующие стадии:
получение признака поведения прямой трансляции текущего кадра прямой трансляции с помощью комбинирования первой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии; и
получение целевой балльной оценки нарушения в текущем кадре прямой трансляции с помощью ввода признака поведения прямой трансляции в модель модерации поведения.
3. Способ по п. 1, отличающийся тем, что построение модели модерации поведения проводится с помощью:
извлечения соответствующего архивного кадра прямой трансляции из каждого архивного видео прямой трансляции в набор архивных видео прямой трансляции и определения многомерного архивного признака поведения для каждого архивного кадра прямой трансляции из студии прямого вещания, в которой расположен каждый архивны кадр прямой трансляции и метка нарушения для архивного кадра прямой трансляции;
получения архивной балльной оценки нарушения архивного кадра прямой трансляции с помощью ввода первой архивной балльной оценки нарушения архивного кадра прямой трансляции в модель модерации высокой точности, второй архивной балльной оценки нарушения архивного кадра прямой трансляции в модель модерации с высоким запоминанием и многомерного архивного признака поведения архивного кадра прямой трансляции из студии потокового вещания в заранее построенную модель модерации поведения для каждого архивного кадра прямой трансляции; и
непрерывной оптимизации модели модерации поведения для минимизации разницы между архивной балльной оценкой нарушения и меткой нарушения для каждого архивного кадра прямой трансляции.
4. Способ по п. 1, отличающийся тем, что после получения целевой балльной оценки нарушения в текущем кадре прямой трансляции с помощью ввода первой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации поведения, способ дополнительно предусматривает следующие стадии:
помещение информации прямой трансляции из подлежащего модерации потокового вещания студии на платформу ручной модерации после определения, что подлежащая модерации балльная оценка нарушения превышает предварительно определенный порог поведение нарушения; и
извлечение нового текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии через период времени с предварительно определенной длительностью прямой трансляции после определения, что целевая балльная оценка нарушения не превышает предварительно определенный порог поведения нарушения; и
непрерывное выполнение модерации нарушения в новом текущем кадре прямой трансляции.
5. Способ по п. 4, дополнительно предусматривающий стадию:
отслеживание элементов взаимодействия при прямой трансляции в подлежащем модерации потоковом вещании студии в режиме реального времени, помещение информации прямой трансляции из подлежащего модерации потокового вещания студии на платформу ручной модерации после определения, что элементы взаимодействия при прямой трансляции превышают предварительно определенный порог взаимодействия, и остановка модерации нарушения, выполнявшейся над текущим кадром прямой трансляции из подлежащего модерации потокового вещания студии.
6. Способ по п. 1, дополнительно предусматривающий стадию:
помещение информации прямой трансляции из подлежащего модерации потокового вещания студии на платформу ручной модерации в случае, когда первая балльная оценка нарушения превышает предварительно определенный порог точности нарушения, или вторая балльная оценка нарушения превышает предварительно определенный порог запоминания нарушения.
7. Способ по любому из пп. 1-6, отличающийся тем, что тренировочные выборки для модели модерации высокой точности содержат простые позитивные выборки и простые негативные выборки в наборе тренировочных выборок, и тренировочные выборки для модели модерации с высоким запоминанием содержат трудные позитивные выборки и трудные негативные выборки в наборе тренировочных выборок.
8. Устройство модерации прямой трансляции, содержащее в себе:
модуль предварительной модерации, выполненный с возможностью проводить предварительную модерацию нарушения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии с помощью модели модерации высокой точности и модели модерации с высоким запоминанием, которые каскадированы друг с другом; и
модуль определения балльной оценки нарушения, выполненный с возможностью получить целевую балльную оценку нарушения в текущем кадре прямой трансляции с помощью ввода первой балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации высокой точности, второй балльной оценки нарушения в текущем кадре прямой трансляции из модели модерации с высоким запоминанием и многомерного признака поведения в текущем кадре прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации поведения после прохождения текущим кадром прямой трансляции предварительной модерации нарушения;
причем модуль (410) предварительной модерации дополнительно выполнен с возможностью получить первую балльную оценку нарушения в текущем кадре прямой трансляции с помощью ввода текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации высокой точности; и получить вторую балльную оценку нарушения в текущем кадре прямой трансляции с помощью непрерывного ввода текущего кадра прямой трансляции из подлежащего модерации потокового вещания студии в предварительно построенную модель модерации с высоким запоминанием после определения, что первая балльная оценка нарушения в текущем кадре прямой трансляции не превышает предварительно определенный порог точности нарушения;
причем определяется, что текущий кадр прямой трансляции прошел предварительную модерацию нарушения после определения, что первая балльная оценка нарушения в текущем кадре прямой трансляции не превышает предварительно определенный порог точности нарушения и вторая балльная оценка нарушения в текущем кадре прямой трансляции не превышает предварительно определенный порог запоминания нарушения.
9. Сервер модерации прямой трансляции, содержащий в себе:
один или несколько процессоров; и
память, выполненную с возможностью хранить одну или несколько программ;
причем один или несколько процессоров после загрузки и выполнения одной или нескольких программ заставлены выполнять способ для модерации прямой трансляции, как определено в любом из пп. 1-7.
10. Энергонезависимый машиночитаемый носитель данных, в котором хранится программа для компьютера, причем программа для компьютера, будучи загруженной и выполняемой процессором, заставляет процессор выполнить способ для модерации прямой трансляции, как определено в любом из пп. 1-7.
| CN 111382623 A, 07.07.2020 | |||
| CN 111385602 A, 07.07.2020 | |||
| CN 111506708 A, 07.08.2020 | |||
| CN 111079816 A, 28.04.2020 | |||
| CN 107197331 B, 31.01.2020 | |||
| CN 109862394 A, 07.06.2019 | |||
| US 20190253744 A1, 15.08.2019 | |||
| СПОСОБ И СИСТЕМА КОНТРОЛЯ ЗА ВОСПРОИЗВЕДЕНИЕМ МЕДИА-КОНТЕНТА, ВКЛЮЧАЮЩЕГО ОБЪЕКТЫ ИНТЕЛЛЕКТУАЛЬНЫХ ПРАВ | 2017 |
|
RU2658784C1 |
