LIMITACIONES Y CARENCIAS DE LA INTELIGENCIA ARTIFICIAL
Juanjo Galán, Business Strategy de la empresa de servicios de seguridad informática All4Sec, realizó un análisis de la Inteligencia Artificial en una nota publicada por el periódico Silicon.es. En la misma, establece sus limitaciones y carencias ante la posibilidad de modificar los datos.
De esta manera, las técnicas de machine learning se basan en algoritmos de aprendizaje. Ante esto, el autor destaca la fragilidad algorítmica posible. Porque la aplicación está preparada para recibir datos similares a los del proceso de aprendizaje pero una mínima variación puede generar un comportamiento erróneo.
La incertidumbre se presenta al no poder justificar fehacientemente la razón de dicha fragilidad. Por un lado, podría ser porque los sistemas de machine learning son como "cajas negras" ya que a cada entrada corresponde una salida; pero no se puede arreglar un error de lo que no se conoce. Por otro lado, es difícil establecer si la aplicación de IA es atacada física o digitalmente por ciberdelincuentes o si solamente se trata de un fallo en el sistema.-
Comentarios
Publicar un comentario