Chatbots – comportamentos inadequados e o desenvolvimento da tecnologia

Chatbots – comportamentos inadequados e o desenvolvimento da tecnologia

Por Rafael Gomes Tabach da Rocha – Especialista de patente da Daniel Advogados

           É inegável que o crescente desenvolvimento de novas tecnologias que vivenciamos traz inúmeras mudanças em nosso dia a dia, e talvez seu mais célebre expoente seja a Inteligência Artificial. Um exemplo claro de como estes algoritmos estão presentes em nosso cotidiano são os chatbots, que fornecem soluções de forma prática e rápida para situações menos complexas. Em suma, chatbots são programas capazes de estabelecer um diálogo por meio da utilização de linguagem humana, mais comumente a escrita. Os modelos mais modernos utilizam algoritmos de Machine Learning e PLN (processamento de linguagem natural), que possibilitam uma experiência muito mais acurada e satisfatória ao usuário deste tipo de programa.

           O Machine Learning, por sua vez, é um subconjunto da IA que permite que a máquina aprenda através de uma combinação de treinamento prévio, utilizando uma série de dados cuidadosamente selecionados, e o resultado de interações futuras. Em chatbots, estas interações consistem no diálogo entre a máquina e os usuários que com ela se comunicam. O grande desafio é que a Internet é um ambiente flagrantemente hostil, onde seus usuários se sentem à vontade para proferir os mais variados (e deploráveis) tipos de discurso. Naturalmente, o processo de aprendizado de um chatbot pode ser comprometido quando submetido a este tipo de dado, tornando o modelo final um reprodutor de ideias conspiratórias, odiosas e preconceituosas.  Um exemplo é o caso da IA “Tay”, que, em menos de 24h, foi convertida de uma interface amigável a um personagem racista, homofóbico, transfóbico e antissemita.

           Ainda que diversos avanços na tecnologia tenham sido realizados desde então, o aprimoramento constante em busca de novas soluções mostra-se sempre necessário. Nesse sentido, um excelente mecanismo para medir o desenvolvimento tecnológico de um determinado campo são os bancos de dados de patentes, que permitem a realização de um mapeamento das mais novas soluções para problemas técnicos enfrentados. E é por meio deste tipo de inteligência tecnológica que é possível verificar, de forma concreta, tendências de desenvolvimento de mecanismos de proteção aplicados a algoritmos de chatbots que visam solucionar o problema técnico em comento.

           É assim, por exemplo, com a patente US10742605B2, depositada em 2018, que apresenta um processo que detecta informações dadas por usuários e avalia características dessas informações com base em um conjunto de políticas e características aprendidas, permitindo avaliar o conteúdo destas interações e compará-lo a um limite pré-estabelecido. Assim, a IA consegue filtrar, por meio de um firewall, as informações fornecidas pelo usuário, impedindo que um comportamento inadequado seja desenvolvido pelo robô. Já a patente US10574597B2, depositada em 2017, apresenta uma interface de usuário para monitorar e depurar a IA de um chatbot. Essa interface de usuário é controlada por humanos e é útil para filtrar e depurar grandes quantidades de dados, como no caso “Tay”, que interagia com milhares de usuários ao mesmo tempo via Twitter. Com uma interface de usuário mais eficiente, os humanos responsáveis por monitorar o chatbot são capazes de identificar com maior acurácia comportamentos inadequados da IA e tomar as medidas necessárias.

           Nota-se, portanto, um esforço de desenvolvedores de chatbots para que problemas como os apresentados pela IA “Tay” não mais se repitam, uma vez que evitar esse tipo de contratempo pode ser o diferencial entre a utilização ou não de uma aplicação chatbot. Dados patentários indicam que chatbots com comportamentos inadequados serão, cada vez mais, parte do passado. Nesse aspecto, as patentes se mostram instrumentos poderosos de fomento à tecnologia, pois permitem não somente uma clara visualização das soluções tecnológicas mais atuais, que servirão como base técnica para um desenvolvimento constante, como também garantem a proteção destes desenvolvimentos.

Confira também: registro de músicas online


Artigos relacionados

  • Patentes Verdes
    Patentes

    Patentes Verdes

    Aline Brito S. Souto Maior
    Aline Brito S. Souto Maior Publicado - 22 junho 2022
    Ler mais
  • Caso Iphone e a repercussão geral da matéria
    Marca

    Caso Iphone e a repercussão geral da matéria

    Luciana Manica Gössling
    Luciana Manica Gössling Publicado - 28 março 2022
    Ler mais
  • Aspectos importantes sobre Pedidos Divididos no Brasil
    Patentes

    Aspectos importantes sobre Pedidos Divididos no Brasil

    Marcelo Corrêa
    Marcelo Corrêa Publicado - 29 dezembro 2021
    Ler mais
  • A Tecnologia e a Proteção da Propriedade Intelectual
    Patentes

    A Tecnologia e a Proteção da Propriedade Intelectual

    Natalia Gigante
    Natalia Gigante Publicado - 18 outubro 2021
    Ler mais
  • Vigência Patentária de Invenção é Reduzida
    Patentes

    Vigência Patentária de Invenção é Reduzida

    Giselle Maurício
    Giselle Maurício Publicado - 17 setembro 2021
    Ler mais
  • Games podem ser patenteados no Brasil?
    Educação

    Games podem ser patenteados no Brasil?

    Gustavo Sartori Guimarães
    Gustavo Sartori Guimarães Publicado - 08 julho 2021
    Ler mais
  • Pirataria on-line: como lidar com seu crescimento pós-pandemia?
    Patentes

    Pirataria on-line: como lidar com seu crescimento pós-pandemia?

    Natalia Gigante
    Natalia Gigante Publicado - 18 junho 2021
    Ler mais
  • Backlog do INPI – Quebrando paradigmas e apontando novos rumos
    Marca

    Backlog do INPI – Quebrando paradigmas e apontando novos rumos

    Guilherme Coutinho
    Guilherme Coutinho Publicado - 26 março 2021
    Ler mais

Últimos artigos

  • O Brand Equity precisa estar atrelado a propriedade intelectual de uma marca
    Marca

    O Brand Equity precisa estar atrelado a propriedade intelectual de uma marca

    Valdomiro Soares
    Valdomiro Soares Publicado - 19 outubro 2023
    Ler mais
  • Registrar para combater

    Registrar para combater

    Valdomiro Soares
    Valdomiro Soares Publicado - 10 outubro 2023
    Ler mais
  • Uma pergunta sobre direitos autorais para a inteligência artificial
    Direitos Autorais

    Uma pergunta sobre direitos autorais para a inteligência artificial

    Jonathan Vallonis Botelho
    Jonathan Vallonis Botelho Publicado - 08 maio 2023
    Ler mais
  • Legal design e boa-fé objetiva na proteção de dados
    Tecnologia

    Legal design e boa-fé objetiva na proteção de dados

    Aline Cruvinel
    Aline Cruvinel Publicado - 09 agosto 2022
    Ler mais
  • Os Direitos Autorais e a Inteligência Artificial
    Direitos Autorais

    Os Direitos Autorais e a Inteligência Artificial

    Aline Brito S. Souto Maior
    Aline Brito S. Souto Maior Publicado - 07 julho 2022
    Ler mais
  • TSE reforça combate à desinformação nas Big Techs
    Tecnologia

    TSE reforça combate à desinformação nas Big Techs

    Vitor Saldanha
    Vitor Saldanha Publicado - 23 junho 2022
    Ler mais
  • Patentes Verdes
    Patentes

    Patentes Verdes

    Aline Brito S. Souto Maior
    Aline Brito S. Souto Maior Publicado - 22 junho 2022
    Ler mais
  • O INPI e a LGPD
    LGPD

    O INPI e a LGPD

    Aline Brito S. Souto Maior
    Aline Brito S. Souto Maior Publicado - 22 junho 2022
    Ler mais

Assine nossa newsletter e fique por dentro das novidades

Receba e-mails promocionais e novidades, seus dados pessoais não serão compartilhados. Para mais informações, consulte as políticas de privacidade

Portal Intelectual

Seu artigo ainda não está por aqui?

Envie o seu artigo e seja autor do maior acervo colaborativo de propriedade intelectual do brasil

Enviar