Es a finales de la d\u00e9cada de los a\u00f1os cincuenta cuando se producen los primeros estudios y desarrollos en Inteligencia artificial. Uno de sus primeros resultados fue el desarrollo de \u00abDendral\u00bb, un sistema creado en 1966 por un grupo de investigadores de la Universidad de Stanford para identificar compuestos qu\u00edmicos. M\u00e1s adelante, en los setenta, la Universidad de Northwestern comenz\u00f3 a utilizarla para construir programas que pudieran jugar al ajedrez con humanos. Unos desarrollos que alcanzaron gran impacto medi\u00e1tico en 1997 cuando Garry Kasparov (campe\u00f3n del mundo de ajedrez) fue derrotado por \u00abDeep Blue\u00bb, una m\u00e1quina construida por IBM.<\/p>\n\n\n\n
El gran salto en la Inteligencia Artificial se dio en el momento en el que se dej\u00f3 de ense\u00f1ar a las m\u00e1quinas c\u00f3mo deb\u00edan jugar al ajedrez o traducir un texto o dise\u00f1ar a otras m\u00e1quina, y se les dej\u00f3 que ellas mismas lo aprendieran a partir del examen de millones de ejemplos resueltos. El problema ahora es que tenemos m\u00e1quinas que realizan tareas muy sofisticadas como traducir un texto, reconocen un rostro humano o analizar una ecograf\u00eda, pero no sabemos concretamente c\u00f3mo lo hacen. <\/p>\n\n\n\n
M\u00e1s a\u00fan, los sistemas han ido mejorando hasta tal punto que ser\u00e1n las propias m\u00e1quinas las que se entrenen entre ellas. Ser\u00e1n, en muchos sentidos, m\u00e1s eficaces que los humanos (ya lo son en campos concretos); y los modelos de aprendizaje, capaces de manejar m\u00e1s y m\u00e1s par\u00e1metros cada vez, auguran que esto es solo el comienzo.<\/p>\n\n\n\n
Los pa\u00edses que se encuentran a la cabeza en el desarrollo de la \u00abInteligencia artificial\u00bb son Estados Unidos con empresas como OpenAI, Alphabet, Meta y Microsoft y China, algo menos desarrollada, con Baidu, Huawei e Inspur.<\/p>\n\n\n\n
Campos de desarrollo y de aplicaci\u00f3n: <\/strong> <\/p>\n\n\n\n Tienen su base en un an\u00e1lisis estad\u00edstico del comportamiento del lenguaje natural. Con ello se logra una aproximaci\u00f3n matem\u00e1tica que es la que sirve para que despu\u00e9s, estos sistemas entrenados, puedan construir asombrosas estructuras sint\u00e1cticas que nos dejan totalmente sorprendidos. Realmente las m\u00e1quinas construyen escritos por pura \u00abfuerza bruta\u00bb, pues su an\u00e1lisis de gigantescas cantidades de escritos les ha permitido determinar el grado de probabilidad que tiene una palabra de ir detr\u00e1s de otra dentro de un determinado contexto; y esa es la gran \u00abmagia\u00bb del asunto: haber incluido millones y millones de par\u00e1metros que el sistema es capaz de gestionar. Con un sistema de \u00abaprendizaje profundo\u00bb el sistema ha sido capaz de crear un modelo cuyos resultados pueden ser: una noticia, una respuesta comercial, un art\u00edculo, un chiste, un sistema de atenci\u00f3n al cliente,… o cualquier otro. <\/p>\n\n\n\n \u00abAyer vi que una revista de ciencia ficci\u00f3n hab\u00eda cerrado su buz\u00f3n de manuscritos de ficci\u00f3n porque estaba inundado de obras generadas por ChatGPT. \u00bfHemos pedido este tipo de mundo? Queremos algo que escriba nuevos libros al azar basados en combinaciones del conjunto de los libros que ya existen? No lo creo.\u00bb<\/p>\nTimnit gebru – Revista eldiario.es -inteligencia artificial. riesgos, verdades y mentiras, p\u00e1g. 16<\/cite><\/blockquote>\n\n\n\n La posibilidad de aplicar estos sistemas, por parte de los alumnos, ha supuesto un verdadero problema para la pedagog\u00eda actual que se divide entre quienes creen que se debe \u00abeducar con la ayuda de la Inteligencia Artificial\u00bb y los que proponen \u00abeducar para la era de la IA\u00bb. Est\u00e1 claro que las herramientas cl\u00e1sicas de evaluaci\u00f3n como los trabajos han quedado obsoletas con este tipo de sistemas. <\/p>\n\n\n\n Muchas inc\u00f3gnitas, algunas certezas<\/strong><\/p>\n\n\n\n Ante lo desconocido solo podemos echar mano de aquellas cosas de las que estamos completamente seguros y con las que estamos profundamente comprometidos: los Derechos Humanos, los Objetivos de Desarrollo Sostenible, una democracia participativa de calidad, una educaci\u00f3n obligatoria, p\u00fablica y orientada al desarrollo integral de las personas y no a su \u2018empleabilidad\u2019 y valor de mercado, un sistema pol\u00edtico que no privilegie a los m\u00e1s fuertes ignorando a quienes no resultan \u2018rentables\u2019 o productivos, un fuerte control de las grandes empresas tecnol\u00f3gicas, etc. Y necesitamos reflexi\u00f3n. L\u00edmites y consecuencias: <\/strong><\/p>\n\n\n\n La aplicaci\u00f3n de la inteligencia artificial va a tener, por ejemplo, un efecto demoledor sobre el empleo<\/strong>. Se calcula que por cada tarea que desempe\u00f1a desaparecen tres puestos de trabajo. Hasta ahora se supon\u00eda que dichos puestos tendr\u00edan que ver con los trabajadores menos cualificados; su desarrollo cada vez hacia formas m\u00e1s potentes parece romper tambi\u00e9n esta barrera: ahora se ve que van a ser los trabajadores cualificados los m\u00e1s afectados por la entrada de estos sistemas. <\/p>\n\n\n\n \u201cLa clave es que el salario ha sido la principal forma de redistribuci\u00f3n de los beneficios a lo largo de la historia. Tradicionalmente los impuestos han supuesto menos del 20% del reparto, mientras que los salarios han sido el 60%. El problema es que ese porcentaje ha ido disminuyendo en los \u00faltimos 20 a\u00f1os y el salario tiene cada vez menos importancia\u201d. (Adri\u00e1n Todol\u00ed) […]<\/p>\n\n\n\n \u00bfPero qu\u00e9 pasa si ahora aparecen empresas que no contratan [porque sustituyen a los trabajadores por sistemas de IA]?<\/p>\n\n\n\n En este punto del debate es cuando aparecen soluciones innovadoras que no se han puesto en pr\u00e1ctica a gran escala. El impuesto a los robots, el impuesto de sociedades ascendente para las empresas que empleen un menor n\u00famero de trabajadores o la renta m\u00ednima universal. […] ya la propia Comisi\u00f3n Europea plante\u00f3 en 2019 f\u00f3rmulas para que el impuesto de sociedades descienda si das mucho empleo; pero aumente si no das trabajo. Si no hay sueldos, pagas m\u00e1s impuesto de sociedades\u201d.<\/p>\n\n\n\n \u201cEs cierto que ahora mismo parece una cuesti\u00f3n lejana \u2013reconoce Jos\u00e9 Varela, del sindicato UGT\u2013. Pero si no hacemos nada, lo que nos vamos a encontrar cuando queramos actuar es con miles y miles de personas que se han quedado sin trabajo y adem\u00e1s carecen de las herramientas para atravesar los cambios de manera ordenada\u201d.<\/p>\ncarlos del castillo, Revista eldiario.es, p\u00e1g. 56<\/cite><\/blockquote>\n\n\n\n Otra de sus amenazas tiene que ver con la p\u00e9rdida de la privacidad<\/strong>. Estamos ante sistemas con una capacidad ingente de procesamiento de informaci\u00f3n de todo tipo de fuentes, con lo que podr\u00eda obtener unos perfiles individuales de informaci\u00f3n mucho m\u00e1s completos que los que actualmente existen. <\/p>\n\n\n\n Una amenaza m\u00e1s es el sesgo de la informaci\u00f3n<\/strong> con la que es entrenada. En el fondo, la Inteligencia artificial s\u00f3lo reproduce los esquemas informacionales con los que es entrenada, de ah\u00ed que adolezca de los mismos prejuicios racistas, xen\u00f3fobos o machistas que podemos encontrar en la informaci\u00f3n de partida. Se impone una selecci\u00f3n de dicha informaci\u00f3n o la incorporaci\u00f3n de controles que eviten, en lo posible, dicha descompensaci\u00f3n. <\/p>\n\n\n\n El problema de la explicabilidad<\/strong>. Es uno de los grandes problemas actuales que se derivan de ese car\u00e1cter de \u00abcaja negra\u00bb que han adoptado los sistemas de Inteligencia Artificial incapaces de explicar la justificaci\u00f3n de sus c\u00e1lculos o decisiones para que puedan ser analizados, revisados y criticados o modificados. <\/p>\n\n\n\n Esta situaci\u00f3n se hace m\u00e1s compleja por cuanto los sistemas no son est\u00e1ticos sino que contin\u00faan entren\u00e1ndose de manera constante, de lo que podr\u00eda deducirse que resulta inadecuado obtener una imagen fija (de por s\u00ed obsoleta) para evaluar un sistema en continua evoluci\u00f3n y cambio.<\/p>\n\n\n\n Me gustar\u00eda que fuera responsabilidad de las empresas demostrar que su tecnolog\u00eda no tiene efectos nocivos. Cuando la gente produce alimentos, tiene que demostrarnos que no son venenosos o que no contienen ingredientes perjudiciales para las personas. […] <\/p>\n\n\n\n [En el fondo se presenta a estos sistemas] como algo que tiene su propia vida, te est\u00e1s olvidando de que hay una corporaci\u00f3n detr\u00e1s que, en primer lugar, est\u00e1 robando datos de los artistas sin su conocimiento o compensaci\u00f3n, y luego lo empaqueta para su propio beneficio. La gente habla del modelo como si no hubiera nadie detr\u00e1s. <\/p>\nTimnir gebru, Revista eldiario.es p\u00e1g. 18<\/cite><\/blockquote>\n\n\n\n La necesidad de una \u00abregulaci\u00f3n\u00bb<\/strong> pasa por tres modelos distintos: el de EE.UU. basado en \u00abest\u00e1ndares voluntarios\u00bb creados y asumidos por las propias empresas; el de la Uni\u00f3n Europea, a partir de condiciones previas que el sistema debe pasar para obtener el sello \u00abCE\u00bb que garantiza que el uso de la herramienta posee un riesgo aceptable. El chino, basado en la creaci\u00f3n de un marco pol\u00edtico y regulatorio (como se establece en otros sectores) que proh\u00edbe la generaci\u00f3n de comportamientos disruptivos para el orden social o que exploten vulnerabilidades de los m\u00e1s d\u00e9biles, como pueden ser los ancianos.<\/p>\n\n\n\n En cuanto a sus l\u00edmites, hay quienes destacan que la Inteligencia artificial tiene l\u00edmites y los sit\u00faan en tres \u00e1mbitos en los que no parece haber conseguido destacar: la gesti\u00f3n de entornos desordenados; las tareas que impliquen \u00abinteligencia creativa\u00bb; y todo aquello en lo que sea necesaria la intervenci\u00f3n de la \u00abinteligencia emocional\u00bb. Veremos si realmente son estos sus l\u00edmites. <\/p>\n\n\n\n Asimov pens\u00f3 que todo aut\u00f3mata deb\u00eda incorporar, en sus cerebros positr\u00f3nicos, las famosas \u00abtres leyes de la rob\u00f3tica\u00bb, sin embargo, los cient\u00edficos actuales consideran que dichas leyes no sirven para nada, por cuanto, aunque se cumplan, implican los mismos problemas \u00e9ticos a los que nos enfrentamos las personas en nuestro d\u00eda a d\u00eda. O lo que es lo mismo, nos nos van a evitar discutir, como se hace en la universidad de Oxford, desde hace a\u00f1os, con problemas \u00e9ticos como el \u00abdilema del tranv\u00eda\u00bb.<\/p>\n\n\n\n En la aplicaci\u00f3n m\u00e9dica plantea dos problemas fundamentales que retraen a las instituciones sanitarias a su aplicaci\u00f3n generalizada: la primera tiene que ver con la necesidad de determinar qui\u00e9nes ser\u00edan los responsables de los da\u00f1os causados en los pacientes por una respuesta err\u00f3nea del sistema; la segunda se refiere a la gran cantidad de datos sensibles a los que tendr\u00e1n acceso estos sistemas, tanto para entrenarse como despu\u00e9s cuando gestionen todo el historial completo de los pacientes, \u00bfqui\u00e9n y c\u00f3mo se podr\u00e1 garantizar la privacidad de dichos datos y el uso de los mismos con el consentimiento informado de los pacientes? Ese el problema. <\/p>\n\n\n\n Para Alejandro G\u00e1ndara, hemos llamado \u00abinteligencia\u00bb a aquello que hist\u00f3ricamente apreciamos como una cualidad deseable y valiosa:<\/p>\n\n\n\n\n
\n
Los sistemas conversacionales del tipo ChatGPT<\/h2>\n\n\n\n
\n
Educaci\u00f3n<\/strong> <\/h2>\n\n\n\n
\n
\n
Si, como dijo Clemenceau, \u201cla guerra es un asunto demasiado serio para dejarla en manos de los militares\u201d; hoy, la IA es un tema demasiado importante para dejarlo en manos de las empresas inform\u00e1ticas. Los gobiernos deber\u00edan saberlo. El problema es si tienen los recursos y la convicci\u00f3n necesaria. Como educadores es necesario que conozcamos qu\u00e9 puede hacer, c\u00f3mo lo hace y qu\u00e9 no puede hacer la IA. En 2011, Marc Andreessen escribi\u00f3 una frase que cada vez resulta m\u00e1s cierta: \u201cEl software se est\u00e1 comiendo el mundo\u201d. Si el impacto pol\u00edtico de los algoritmos que gobiernan las redes sociales no hab\u00eda sido ni comprendido, ni anticipado o previsto, esta vez tenemos que estar prevenidos. De hecho, existe una creciente conciencia sobre los problemas \u00e9ticos, legales, sociales, pol\u00edticos, econ\u00f3micos, educativos, etc., que puede causar una IA (des)gobernada por la maximizaci\u00f3n de beneficios empresariales. Y en educaci\u00f3n tenemos nuestros propios problemas. Puede que hayamos perdido el miedo a que la IA sustituya a los profesores, pero a largo plazo seguramente redefinir\u00e1 sus roles, el entorno docente\/discente y las actividades de los estudiantes. \u00bfPuede imaginar el impacto, positivo y negativo, de un libro de texto \u2018inteligente\u2019? Alg\u00fan autor de ciencia ficci\u00f3n s\u00ed que ha podido. Negarnos a su uso en las aulas no servir\u00e1 de gran cosa, s\u00f3lo a hurtar el derecho de la juventud a desarrollar las competencias necesarias, entre ellas una visi\u00f3n cr\u00edtica, para vivir en un mundo tecnol\u00f3gicamente mucho m\u00e1s complejo que el que nosotros, sus profesores, conocimos. Es m\u00e1s, en educaci\u00f3n, la nostalgia de un mundo antiguo, idealizado y falso, s\u00f3lo nos dejar\u00e1 a\u00fan m\u00e1s fuera de juego.<\/p>\nJordi Adell, Revista ElDiario.es, p\u00e1g. 50-52<\/cite><\/blockquote>\n\n\n\n
\n\n\n\n\n
\n
\n\n\n\nProblemas \u00e9ticos<\/h2>\n\n\n\n
\n\n\n\nPilares de la IA<\/h2>\n\n\n\n
\n
\n
\n