La profesora de nacionalidad británica Margaret Ann Boden (Londres 1936) -Maggie para los amigos- es una especialista sobre investigación de ciencia cognitiva en el departamento de informática en la Universidad de Sussex (Reino Unido), trabaja muy cercana a los campos de inteligencia artificial, psicología, filosofía, ciencia cognitiva e informática, y sigue activa fiel a su condición de insaciable “mariposa intelectual”. En esta publicación compartimos una entrevista realizada por el periodista y escritor español, Carlos Fresneda para El MUNDO, opinando sobre los puntos de vista de Stephen Hawking, Nick Bostrom, Ray Kurzweil, Elon Musk, Eliezer Yudkowsky y su experiencia como mujer en un tema tan lleno de “científicos”.
Para la profesora Boden, la gente está comenzando a pensar sobre uso de la IA y su relación con los actos éticos, afirmando que “la responsabilidad debe recaer siempre en el ser humano“, como ya se viene practicando en el sector sanitario, en los que las decisiones las siguen tomando los médicos. En un futuro no muy lejano, la tecnología con IA «va a estar en todas partes en la sociedad humana y ahí la palabra clave es humana. Tenemos un futuro muy emocionante por delante, pero lo que sucederá es totalmente impredecible y eso debería preocuparnos», pero no tanto en cuanto a robots “sino a sistemas con los que interactuamos por voz o a través de pantallas”. Tenemos, como educadores, que insistir en la educación ética de la tecnología digital y regular el uso de la IA, porque «No existen los robots éticos, porque no tienen la culpa de lo que hacen» y «porque no quieren, no tienen objetivos propios ni ambición, carecen de sentimientos y de motivación para el poder».
- Artículo que recomendamos leer previamente: Randima Fernando: La tecnología termina cambiándonos y, efectivamente, degradándonos
En un encuentro en la Fundación Telefónica en Madrid (España) afirmó que pesar de todos nuestros adelantos, incluida la IA Amigable, todavía somos limitados para entender cómo funciona nuestro cerebro humano, y aún no hemos encontrado respuesta científica ni filosófica para saber qué es nuestra conciencia. Nos advierte, que con el auge de las redes sociales y la “infoxicación”, es bueno tener en cuenta que «hay mucha gente prometiendo más de lo que esta tecnología puede jamás llegar a lograr. Es ignorante prometer cosas sinsentido», como el hacer creer que todos los problemas de los seres humanos van a ser resueltos por los algoritmos. Tanto “la culpa, igual que el daño, son conceptos humanos”. De ahí que la profesora de Sussex no solo recurra a la informática y la programación para explicar los retos que nos plantea la inteligencia artificial para el futuro. También y, sobre todo, a la filosofía”. Cf “LA INTELIGENCIA ARTIFICIAL NO VA A CONQUISTARNOS, CARECE DE AMBICIÓN”
TRANSFORMACIÓN DIGITAL (02´ 02”)
La Web del Maestro CMF, por razones únicamente educativas y de formación permanente, comparte con ustedes partes del diálogo entre la profesora Boden y el corresponsal en Londres de EL MUNDO. El título ha sido extraído de las declaraciones, no es un resumen, además es importante declarar que hemos resaltado con negritas y letras cursivas algunas partes (según nuestro. criterio) de los textos originales publicados en el enlace que indicamos al final de este artículo, y que recomendamos leer en su integridad. Boden es una voz experimentada y una profesora que nos habla desde su experiencia docente.
CARLOS FRESNEDA: ¿Cuál es la idea más equivocada que tenemos sobre la inteligencia artificial?
MARGARET BODEN: “Yo diría que hay dos ideas equivocadas. La primera es que la inteligencia artificial (IA) puede hacer mucho más de lo que es capaz realmente. Y la segunda es que puede hacer mucho menos. Entre estos dos polos nos movemos, y esa ha sido mi idea con este libro. Examinar la naturaleza de la IA, hacer balance de dónde estamos e intentar vislumbrar el futuro, con los pies en el suelo y sin caer en escenarios de ciencia ficción”.
- Publicaciones recomendadas: Entrevista a “LaMDA” la Inteligencia Artificial de Google que reemplazará a los maestros
CARLOS FRESNEDA: Meses antes de morir, con su voz computarizada, Stephen Hawking advirtió: “El desarrollo pleno de la inteligencia artificial puede significar el fin de la raza humana” ¿Verdadero o falso?
MARGARET BODEN: “Ese tipo de afirmaciones genéricas sirven al final para infundir el temor a lo desconocido. Con todos mis respetos para Stephen Hawking, y reconociendo sus grandes méritos en el campo de la Física, no se puede intentar abarcar todo y hablar ex cátedra de un campo que no era su especialidad. Por no hablar de la profunda contradicción: él tenía que estar en el fondo agradecido a la IA porque le permitía hablar y comunicarse con los humanos.
Hawking era tan asombrosamente popular que todo lo que salía de su boca se elevaba inevitablemente a titular. Hizo mucho por la divulgación de la ciencia, pero no estaba en una posición privilegiada para hablar de la IA. Al fin y al cabo, su aproximación era la de un astrofísico, preocupado por el futuro de la Tierra y urgiendo a la especie humana a colonizar otros planetas.”
CARLOS FRESNEDA: El filósofo Nick Bostrom, al frente del Instituto para el Futuro de la Humanidad en la Universidad de Oxford, considera también la superinteligencia como el “mayor riesgo existencial” para la humanidad, por delante incluso del cambio climático…
MARGARET BODEN: “Otra peligrosa generalización. Bostrom tiene ideas un poco locas, como la noción misma de la superinteligencia (una inteligencia superior a la humana) a mediados de siglo o incluso antes. Son predicciones un poco absurdas. Bostrom está contribuyendo también, a su manera, a infundir el miedo a ese futuro apocalíptico, y desviar por ejemplo la atención del cambio climático, que es un peligro presente y real, que va a comprometer enormemente las vidas de las próximas generaciones.”
- Publicación que podría interesarle: La Inteligencia Artificial, la Conciencia Artificial y el pensamiento crítico en la Quinta Revolución Educativa | ¿Será capaz la IA de realizar técnicas de manipulación con seres humanos?
CARLOS FRESNEDA: ¿Y qué nos dice de las predicciones de Ray Kurzweil, el profeta de la singularidad?
MARGARET BODEN: “Kurzweil es aún peor, precisamente por todo lo contrario. Habla de la singularidad (el momento en el que la inteligencia de las máquinas supera a la del hombre) como una especie de santo grial o de utopía tecnológica. En su opinión, la inteligencia artificial (combinada con la nanotecnología y con la biología sintética) servirá para acabar con las enfermedades, con las guerras e incluso con la muerte. Además, predice que el momento está bien cerca, en torno al 2030… […] Lo tenemos como quien dice a la vuelta de la esquina… Es absurdo.
Pensar que con la IA puede resolver conflictos tan humanos como el de Oriente Próximo (y ya puestos, el de Irlanda del Norte o el Cataluña) es totalmente ridículo. Los que creen en la singularidad ignoran las limitaciones de la IA actual. Se basan sólo en los avances tecnológicos exponenciales, pero ignoran un hecho: el aumento de potencia de los ordenadores y de la disponibilidad de datos no garantiza una IA de nivel humano.”
CARLOS FRESNEDA: El fundador de Tesla, Elon Musk, es otra de las voces más notorias ante los riesgos de la IA ¿No deberíamos darle algo de crédito?
MARGARET BODEN: “A Elon Musk hay que agradecerle sobre todo que ponga sobre la mesa la cuestión ética y que ponga dinero para investigar temas que deberíamos haber estado investigando durante años. Su contribución al Instituto para el Futuro de la Vida me parece muy valiosa. Es esencial plantearnos escenarios de futuro, pero hay que hacerlo con investigaciones rigurosas y multidisciplinarias que nos adviertan de los riesgos reales.”
Artículos relacionados:
- Yuval Noah Harari: Los profesores debemos enseñar pensamiento crítico, comunicación, colaboración y creatividad
- Cómo usar en la Educación, los dispositivos digitales personales de manera disciplinada, ética, responsable, saludable y eficaz
CARLOS FRESNEDA: ¿Qué nos puede decir de la privacidad de los ciudadanos, a la luz del reciente escándalo de Facebook y Cambridge Analytica? ¿No corremos el riesgo de ser manipulados por un puñado de corporaciones? ¿El Big Data es acaso el Gran Hermano?
(Cambridge Analytica, recopiló y explotó los datos personales de 87 millones de usuarios de Facebook sin su consentimiento, y presuntamente se utilizó en el desarrollo de software para guiar a los votantes estadounidenses a favor de Trump, y Big Data es un término que describe el gran volumen de datos, tanto estructurados como no estructurados, que inundan los negocios cada día. cf GOOGLE)
MARGARET BODEN: “Afortunadamente, todo lo que ha pasado recientemente va a servirnos para despertar a tiempo. Creo que es un tema ante el que la opinión pública está ya muy sensibilizada, y los gigantes tecnológicos nos pueden seguir escondiendo la cabeza o hacer como si cosa no fuera con ellos. […] hoy por hoy, los usuarios de internet estamos prácticamente desprotegidos y dejando rastros en cada paso que damos. La extracción, manejo y gestión de datos es el gran negocio del siglo XXI.”
CARLOS FRESNEDA: Usted advierte que la amenaza primordial de la IA es el “desempleo tecnológico”. Algunos estudios hablan de un 40% de empleos automatizados en las próximas dos décadas. ¿Nos quitará el trabajo un robot?
MARGARET BODEN: “En este terreno, la gente tiene razones sobradas para estar preocupada. […] comparable con la Revolución Industrial, sólo que en esta ocasión me temo que se van destruir más empleos de los que se construyan. Todos los trabajos rutinarios o mecánicos están amenazados. […] Ningún sector quedará indemne de la inteligencia artificial, y el efecto a medio plazo debería preocuparnos. Muchos trabajos van a desaparecer, y los que surjan van a ser altamente especializados, como el análisis de datos. Los profesionales van a tener que adaptarse a la nueva situación, y el sistema educativo va a necesitar también un severo ajuste. […] Hay trabajos que siempre harán mejor los humanos, y muchos otros en los que precisamente se valorará el contacto humano, frente al tratamiento impersonal de la máquina.”
Artículos recomendados:
- Cómo usar en la Educación, los dispositivos digitales personales de manera disciplinada, ética, responsable, saludable y eficaz
- Estas son las 4 nuevas metodologías de la enseñanza que surgen en los tiempos de la Inteligencia Artificial
CARLOS FRESNEDA: La Inteligencia Artificial Amigable, acuñada por Eliezer Yudkowsky, va por ese camino…
MARGARET BODEN: “La FAI (por sus siglas en inglés) propone efectivamente “un efecto positivo sobre la humanidad”, pero va más allá de las cuestiones éticas y reclama también principios como la transparencia, para garantizar que las tecnologías sigan siendo “amigables” ante posibles cambios. Es una noción interesante que refleja el interés creciente que hay entre los expertos por poner los valores humanos al frente de la IA.”
CARLOS FRESNEDA: Stephen Hawking definía la inteligencia como “la capacidad para adaptarse a los cambios”. ¿Se quedó corto en la definición?
MARGARET BODEN: “Definir la inteligencia es una misión casi imposible. ¿La habilidad para lograr nuestros objetivos y satisfacer nuestras necesidades? Esa definición tampoco me vale. Al fin y al cabo, el cerebro sigue encerrando muchos misterios que aún no hemos conseguido descifrar, y mucho menos emular. Y hay quienes sostienen que hemos tenido hasta ahora una visión demasiado “cerebral”… Durante mucho tiempo se circunscribió la inteligencia a su dimensión racional, pero ahora hablamos de inteligencia emocional y de inteligencia social, y en esos dos terrenos les queda aún un largo camino que recorrer a las máquinas.”
Artículos recomendados y de interés:
- Mariano Narodowski: Muchas de las posibilidades que creíamos infinitas en la TIC, están mostrando ahora sus limitaciones
- Muchos de los desarrolladores de tecnología educativa no entienden nada de educación
CARLOS FRESNEDA: Usted identifica precisamente la emoción, la creatividad y el lenguaje como los tres talones de Aquiles de la Inteligencia Artificial Fuerte (IAF), que aspira a igualar o a exceder la inteligencia humana…
MARGARET BODEN: “[…] la IA ha llegado ya más lejos de lo que mucha gente cree. No solo en el terreno del lenguaje, que quizás es el más conocido, también en el de la creatividad y en sus tres variantes (combinatoria, exploratoria y transformacional). La emoción puede resultar lo más ajeno a la inteligencia emocional y, sin embargo, desde finales de los años 90 ha habido intentos de trasladar a una máquina los aspectos funcionales de la ansiedad, como el sistema Minder de Aaron Sloman, pensado para meterse en la piel de una enfermera humana y decidir las prioridades.”
CARLOS FRESNEDA: ¿Y qué me dice de la sabiduría? ¿Tendremos algún día máquinas “sabias”?
MARGARET BODEN: “La sabiduría es algo que no tendrá una máquina en un futuro predecible. Sobre esto ha escrito mucho el filósofo Nicholas Maxwell, que distingue claramente entre sabiduría y conocimiento. La sabiduría va mucho más allá del conocimiento y comporta la experiencia, la sensatez y la prudencia, entre otras cualidades.”
CARLOS FRESNEDA: ¿La sabiduría es algo que se adquiere con los años?
MARGARET BODEN: “No lo sé. Lo que yo he intentado no perder es la curiosidad intelectual. Alguna vez he dicho que me considero “una mariposa intelectual”. Al fin y a cabo llegué hasta la inteligencia artificial después de haber tocado muchos palos. Mi primer interés fue la medicina, de ahí salté a la filosofía, después la psicología y las ciencias cognitivas. Todo este camino me permitió tener una visión bastante amplia de lo que es la IA.”
CARLOS FRESNEDA: ¿Qué consejo le daría a una mujer que decida explorar el mundo de la inteligencia artificial?
MARGARET BODEN: “Que vaya a por ello, con determinación y sin dudar. Y sin ponerse nunca en una situación de inferioridad o debilidad frente a los hombres, sobre todo en las entrevistas de trabajo.”
La entrevista completa la encuentra en este enlace: “ES ABSURDO PENSAR QUE TENEMOS LA ‘SUPERINTELIGENCIA’ A LA VUELTA DE LA ESQUINA”
“No todo el mundo tiene que aprender a programar, pero sí necesita tener una idea práctica tanto de su potencial como, lo que es más importante aún, de las limitaciones de la inteligencia artificial.” (El Economista 28/10/2018)
NOTA DE REDACCIÓN: La Web del Maestro CMF publica los textos originales de la entrevista, y colocamos corchetes para indicar que hay una parte omitida. El título no es ningún resumen, sino que responde a un pensamiento o frase de la entrevistada. No necesariamente coincidimos con lo expuesto en el tema, no nos hacemos responsables de las opiniones expresadas, y no promocionamos ningún producto, servicio, marca o empresa. Sugerimos a nuestros lectores conocer la identidad de la fuente para tener mayores elementos de juicio y la pertinencia a su realidad educativa.
REDACCIÖN WEB DEL MAESTRO CMF
Que reconfortante es leer y escuchar a una persona que si sabe lo que dice. gracias