Diga ao seu gatinho o que você pensa por dentro - o efeito caixa preta

O fato de algoritmos avançados de IA serem como uma caixa preta (1) que joga fora um resultado sem revelar como ele surgiu preocupa alguns e incomoda outros.

Em 2015, uma equipe de pesquisa do Hospital Mount Sinai, em Nova York, foi solicitada a usar esse método para analisar um extenso banco de dados de pacientes locais (2). Esta enorme coleção contém um oceano de informações de pacientes, resultados de testes, prescrições médicas e muito mais.

Os cientistas chamaram o programa analítico desenvolvido no decorrer do trabalho. Ele treinou em dados de cerca de 700 pessoas. humano e, quando testado em novos registros, provou ser extremamente eficaz na previsão de doenças. Sem a ajuda de especialistas humanos, ele descobriu padrões em registros hospitalares que indicam qual paciente está a caminho de uma doença, como câncer de fígado. De acordo com especialistas, a eficiência prognóstica e diagnóstica do sistema foi muito maior do que a de qualquer outro método conhecido.

2. Sistema de inteligência artificial médica baseado em bancos de dados de pacientes

Ao mesmo tempo, os pesquisadores perceberam que ele funciona de maneira misteriosa. Descobriu-se, por exemplo, que é ideal para reconhecimento de transtornos mentaiscomo a esquizofrenia, que é extremamente difícil para os médicos. Isso foi surpreendente, especialmente porque ninguém tinha ideia de como o sistema de IA conseguia enxergar a doença mental tão bem com base apenas nos registros médicos do paciente. Sim, os especialistas ficaram muito satisfeitos com a ajuda de um diagnóstico de máquina tão eficiente, mas ficariam muito mais satisfeitos se entendessem como a IA chega às suas conclusões.

Camadas de neurônios artificiais

Desde o início, ou seja, desde o momento em que o conceito de inteligência artificial se tornou conhecido, havia dois pontos de vista sobre a IA. A primeira sugeria que seria mais razoável construir máquinas que raciocinassem de acordo com princípios conhecidos e lógica humana, tornando seu funcionamento interno transparente para todos. Outros acreditavam que a inteligência surgiria mais facilmente se as máquinas aprendessem através da observação e experimentação repetida.

O último significa reverter a programação de computador típica. Em vez de o programador escrever comandos para resolver um problema, o programa gera algoritmo próprio com base nos dados da amostra e no resultado desejado. Os métodos de aprendizado de máquina que mais tarde evoluíram para os sistemas de IA mais poderosos conhecidos hoje acabaram de seguir o caminho de, de fato, a própria máquina programa.

Essa abordagem permaneceu à margem da pesquisa de sistemas de IA nos anos 60 e 70. Somente no início da década anterior, após algumas mudanças e melhorias pioneiras, Redes neurais "profundas" começaram a demonstrar uma melhoria radical nas capacidades de percepção automatizada. 

O aprendizado de máquina profundo dotou os computadores de habilidades extraordinárias, como a capacidade de reconhecer palavras faladas quase com a mesma precisão de um ser humano. Esta é uma habilidade muito complexa para programar com antecedência. A máquina deve ser capaz de criar seu próprio "programa" treinamento em grandes conjuntos de dados.

O aprendizado profundo também mudou o reconhecimento de imagens de computador e melhorou muito a qualidade da tradução automática. Hoje, ele é usado para tomar todos os tipos de decisões importantes em medicina, finanças, manufatura e muito mais.

No entanto, com tudo isso você não pode simplesmente olhar dentro de uma rede neural profunda para ver como "dentro" funciona. Os processos de raciocínio de rede estão embutidos no comportamento de milhares de neurônios simulados, organizados em dezenas ou mesmo centenas de camadas intrincadamente interconectadas..

Cada um dos neurônios na primeira camada recebe uma entrada, como a intensidade de um pixel em uma imagem, e então realiza cálculos antes de emitir a saída. Eles são transmitidos em uma rede complexa para os neurônios da próxima camada - e assim por diante, até o sinal de saída final. Além disso, existe um processo conhecido como ajuste dos cálculos realizados por neurônios individuais para que a rede de treinamento produza o resultado desejado.

Em um exemplo muito citado relacionado ao reconhecimento de imagens de cães, os níveis mais baixos de IA analisam características simples, como forma ou cor. Os mais altos lidam com questões mais complexas, como pelos ou olhos. Apenas a camada superior reúne tudo, identificando o conjunto completo de informações como um cachorro.

A mesma abordagem pode ser aplicada a outros tipos de entrada que fazem a máquina aprender a si mesma: sons que formam palavras na fala, letras e palavras que compõem frases em texto escrito ou um volante, por exemplo. movimentos necessários para conduzir um veículo.

O carro não pula nada.

Uma tentativa é feita para explicar o que exatamente acontece em tais sistemas. Em 2015, pesquisadores do Google modificaram um algoritmo de reconhecimento de imagem de aprendizado profundo para que, em vez de ver objetos em fotos, ele os gerasse ou modificasse. Ao executar o algoritmo de trás para frente, eles queriam descobrir as características que o programa usa para reconhecer, digamos, um pássaro ou um edifício.

Esses experimentos, conhecidos publicamente como o título, produziram representações incríveis de (3) animais, paisagens e personagens grotescos e bizarros. Ao revelar alguns dos segredos da percepção de máquina, como o fato de certos padrões serem repetidamente retornados e repetidos, eles também mostraram como o aprendizado de máquina profundo difere da percepção humana - por exemplo, no sentido de expandir e duplicar artefatos que ignoramos em nosso processo de percepção sem pensar. .

3. Imagem criada no projeto

By the way, por outro lado, esses experimentos desvendaram o mistério de nossos próprios mecanismos cognitivos. Talvez seja em nossa percepção que existem vários componentes incompreensíveis que nos fazem entender e ignorar imediatamente algo, enquanto a máquina repete pacientemente suas iterações em objetos “sem importância”.

Outros testes e estudos foram realizados na tentativa de “entender” a máquina. Jason Yosinski ele criou uma ferramenta que funciona como uma sonda presa no cérebro, mirando em qualquer neurônio artificial e procurando a imagem que o ativa mais fortemente. No último experimento, imagens abstratas apareceram como resultado de “espiar” a rede em flagrante, o que tornou os processos que ocorrem no sistema ainda mais misteriosos.

No entanto, para muitos cientistas, tal estudo é um mal-entendido, pois, na opinião deles, para entender o sistema, reconhecer os padrões e mecanismos de uma ordem superior de tomada de decisões complexas, todas as interações computacionais dentro de uma rede neural profunda. É um labirinto gigante de funções e variáveis ​​matemáticas. No momento, é incompreensível para nós.

Computador não inicializa? Por quê?

Por que é importante entender os mecanismos de tomada de decisão dos sistemas avançados de inteligência artificial? Modelos matemáticos já estão sendo usados ​​para determinar quais prisioneiros podem ser libertados em liberdade condicional, quem pode receber um empréstimo e quem pode conseguir um emprego. Os interessados ​​gostariam de saber por que essa decisão e não outra foi tomada, quais são seus fundamentos e mecanismos.

ele admitiu em abril de 2017 no MIT Technology Review. Tommy Yaakkola, um professor do MIT que trabalha em aplicativos para aprendizado de máquina. -.

Existe até uma posição legal e política de que a capacidade de examinar e entender o mecanismo de tomada de decisão dos sistemas de IA é um direito humano fundamental.

Desde 2018, a UE trabalha para exigir que as empresas forneçam explicações aos seus clientes sobre as decisões tomadas por sistemas automatizados. Acontece que isso às vezes não é possível mesmo com sistemas que parecem relativamente simples, como aplicativos e sites que usam ciência profunda para exibir anúncios ou recomendar músicas.

Os computadores que executam esses serviços se programam e fazem isso de maneiras que não podemos entender... Nem mesmo os engenheiros que criam esses aplicativos conseguem explicar completamente como funciona.