A Inteligência artificial que começou a identificar etnias apenas olhando os Raios-X

Não há dúvidas de que nós humanos conseguimos identificar uma série de coisas ao olhar para uma pessoa. Altura, peso, etnia, cor do cabelo, olhos, forma de agir, etc... No entanto, todas essas coisas são captadas por nossos sentidos. Mas o que acontece quando máquinas passam a identificar coisas que vão além da nossa compreensão? Foi o que aconteceu com pesquisadores do Massachussets Institute of Technology (MIT).

Deep Learning (Aprendizado Profundo) é quando expõem uma inteligência artificial a uma quantidade absurda de um tipo de dado (fotos, mapas, áudios, textos, etc...) e ela passe a criar padrões do que esses dados têm. Dessa forma passa a "entender" como reproduzir algo semelhante, pois usa os padrões pra isso. Graças a isso que tivemos aquela inteligência artificial fazendo rostos humanos.

É usado o deep learning em todas as áreas para ajudar profissionais a fazerem coisas de forma automática, deixando humanos usarem seu tempo para fazerem atividades que máquinas são incapazes de fazer.  E os pesquisadores alimentaram a IA com muitas tomografias computadorizadas e raios-x. Foi então que veio a surpresa.
Eles pensaram que se tratava de um engano e ela estava usando um outro dado pra isso, portanto começaram a tirar todos os dados que a ajudassem a ter dicas sobre a pessoa, como os dados da cor do cabelo e cor da pele. Ainda assim ela continuou avaliando o raio-x e identificando boa parte das etnias das pessoas com precisão de 90%. O ocorrido foi publicado na revista científica Lancet Digital Health, e a IA identificava várias partes do corpo.

O caso acabou preocupando especialistas especialmente porque um problema disso é que preconceitos vindos dos programadores por trás poderiam acabar sendo incorporados indiretamente às IA's, que por suas vez podem tomar decisões não imparciais, que sejam prejudiciais de alguma forma a algumas pessoas.

Existem vários casos de aprendizado de máquina usados das maneiras mais variadas, indo desde a primeira IA a responder o sentido da vida, que acabou se mostrando uma resposta misteriosa e estranha pra caramba, até a assustadora Lybebird, capaz de imitar a vos humana.

Postar um comentário

0 Comentários