“En 50 años podríamos tener un Terminator. Hay que pararlo ahora”

Los expertos en inteligencia artificial advierten de los peligros de los robots armados y piden a la ONU que los prohíba

Toby Walsh | Promotor del manifiesto contra los robots asesinos

Los expertos en inteligencia artificial están asustados con la posibilidad de que sus avances acaben como las investigaciones que llevaron a la bomba nuclear. Toby Walsh, investigador estrella del centro de élite australiano NICTA, es el principal promotor de la carta que, liderada por Stephen Hawking, exige la prohibición de los robots asesinos. El texto ha logrado ya más de 17.000 firmas de científicos, entre ellos 2.500 especialistas en robótica, y ha monopolizado la atención en el mayor congreso del mundo sobre inteligencia artificial, que este año se ha celebrado en Buenos Aires. «Tenemos detrás a muchas organizaciones y sobre todo al mundo científico. Esto es imparable», explica Walsh en un receso del congreso. «El objetivo es lograr que la ONU haga una prohibición expresa de los robots asesinos. Eso lleva tiempo, pero lo lograremos. Es evidente que una organización terrorista no va a hacer caso a la ONU, pero sí las empresas de armamento. Por ejemplo, se ha logrado vetar los láser para cegar a prisioneros. Y ya no se fabrican. Usted no los va a ver ni siquiera en Siria. A una empresa de armamento no le interesa ir contra la ONU, perdería a sus mejores clientes».

Walsh sostiene que la carrera se ha iniciado ya. «Sabemos que EE UU está trabajando en proyectos de robots asesinos. Y es presumible que otros estén en esa carrera para no quedarse atrás. No sabemos lo que hacen otros países más opacos como China pero le doy un dato: por primera vez en la historia, este congreso, el más importante del mundo, tiene más proyectos chinos —no militares— que EE UU. Están muy avanzados en inteligencia artificial», explica.

Para los países son una tentación muy fuerte, pero quienes conocen bien la tecnología, como Walsh, y lo accesible que podría ser, se movilizan para frenarlos. «Son mucho más baratos y eficaces que un soldado, no necesitan dormir ni comer, no sufren el frío ni el calor, y los podemos hacer tan pequeños que se pueden meter en cualquier parte». La carta no va contra los drones, porque al final de la cadena hay un ser humano que toma la decisión de disparar o no. Pero sí contra las armas autónomas. «En un mundo ideal, dejaríamos que los robots de uno y otro bando se mataran en un desierto y los contendientes aceptarían el resultado. Como una competición deportiva. Y evitaríamos muertes humanas. Pero el mundo no es así. Esos robots no tardarían en caer en manos del ISIS o cualquier otro y servirían para aterrorizar a la población, para hacer limpiezas étnicas, para cualquier tipo de horror», advierte Walsh.

La ciencia ficción no está tan lejos, aunque no sea exactamente como la imaginó Hollywood. «La gente piensa en Terminator, pero no hace falta llegar ahí. Robots mucho menos sofisticados, con un explosivo, un arma o un veneno, pueden ser mucho más dañinos. Y se pueden fabricar ya. En este congreso, si usted pregunta, la mayoría le dirá que en unos 50 años podríamos tener un Terminator. Por eso hay que pararlo ahora. Pueden ser comparables a la bomba atómica, con un problema añadido: para la bomba necesitas uranio enriquecido, no es nada fácil, se puede controlar. Un robot asesino es mucho más sencillo de programar, una vez que se invente, solo necesitas un buen hacker que sepa hacer el software o robarlo», se inquieta Walsh.

Lo más llamativo es que son precisamente los especialistas en inteligencia artificial los que quieren poner algunos límites. «Nosotros somos los más interesados en que la inteligencia artificial se utilice bien. Por eso, porque sabemos de sus enormes posibilidades para facilitar la vida a la gente, queremos prohibir los robots asesinos que toman decisiones de forma autónoma. Sabemos cómo programarlos para que maten pero no sabemos cómo introducir la ética en un robot. Esta es una tarea inmensa, que no podemos abordar solos los científicos», asegura el profesor australiano.

No solo los robots asesinos generan preguntas difíciles. «Hay muchas decisiones éticas que tomar en los próximos años. Por ejemplo, los coches que conducen solos. Van a tener que tomar decisiones de vida o muerte, por ejemplo si les viene un coche en dirección contraria. Van a tener que decidir quién muere. Pero a la vez estamos comprobando que conducen mucho mejor, no tienen accidentes. Yo creo que nuestros hijos no van a conducir, llegará un momento en que la gente dirá que es un asunto demasiado delicado para dejarlo en manos de personas inexpertas. Pero hay que tomar esa decisión de dejar a las máquinas que elijan por sí solas», explica Walsh.

En cualquier caso, el experto australiano y sus colegas van a seguir investigando para avanzar en el desarrollo de la inteligencia artificial. «No podemos desinventar las cosas que ya hemos inventado. Tenemos que ir hacia delante. La tecnología ha favorecido el enorme bienestar que tenemos. El cambio que llega con la inteligencia artificial es similar al de la revolución industrial. La gente dejó la agricultura por la industria, el campo por la ciudad. Ahora, los robots están destruyendo miles de puestos de trabajo. Y va a ir a más. Pero se crearán nuevos trabajos. Y aquí la clave es la educación. Una persona con mucha formación es mucho más difícil de reemplazar por un robot que alguien que solo cumple tareas mecánicas», resume.

Por una cultura académica distinta: propuestas contra el plagio

Un grupo de 22 académicos de 12 instituciones [mexicanas] distintas hemos elaborado un breve documento sobre el plagio

Nota publicada el 29/07/2015 en: http://elpais.com/elpais/2015/07/28/opinion/1438120670_934990.html

En las últimas semanas dos casos de plagio académico han afectado de manera notable a la comunidad académica mexicana. A pesar de no disponer de cifras exactas sobre su extensión, hay suficiente evidencia de que el plagio constituye un problema bastante extendido en nuestro medio. El fortalecimiento intelectual, institucional y ético de dicha comunidad es el único camino para erradicar de su seno prácticas que la afectan de diversas formas y cuya tolerancia amenaza los valores fundamentales que la sostienen. En el centro de dichas prácticas se encuentra el plagio académico. En su ejercicio se mezclan, en primer lugar, la deshonestidad y la pereza de algunos, pero también la displicencia de otros, así como la ausencia de un marco regulatorio. En México, esta falta de regulación y de las sanciones correspondientes no hace más que contribuir a la difusión del plagio; asimismo, estas insuficiencias inciden sobre una serie de prácticas que de algún modo lo alimentan y le permiten desarrollarse.

La detección de varios casos notorios de plagio en las universidades mexicanas durante los últimos años nos parece reveladora de la crisis del sistema educativo que vive el país en todos sus niveles y de la producción del saber en particular. La apropiación indebida del trabajo de otros y de las ideas ajenas atenta contra la esencia y el sentido de la vida académica. El plagio académico está asociado con la ausencia de medidas que lo castiguen, sin duda, pero también con mecanismos de producción del saber que tendrían que refundarse, de manera que incidan directamente sobre un ambiente de tolerancia que contribuye a convertir al plagio en un problema aún más profundo, más extendido y más difícil de detectar. Esta situación debe terminar a la brevedad posible. La detección y sanción del plagio académico en nuestras instituciones docentes y de investigación son aspectos muy significativos, no solo para la formación integral de las nuevas generaciones, sino también para aumentar el nivel de nuestra vida académica y, en esa medida, para el futuro de nuestro país.

Reconociendo los pasos firmes que algunas instituciones universitarias han dado recientemente en la lucha contra el plagio académico, con el objeto de propiciar un debate serio sobre el tema en la comunidad académica, así como contribuir a erradicarlo de nuestro medio, quienes suscribimos este documento hemos elaborado las siguientes propuestas:

I. Que las instituciones de educación superior e investigación suscriban un Acuerdo Nacional para el establecimiento de una política de tolerancia cero frente al plagio académico. Esta política debe incluir un compromiso a corto plazo por parte de todas las instituciones participantes en el Acuerdo para adecuar su normativa interna a fin de establecer instancias y procedimientos disciplinarios para la detección y, en su caso, sanción a los estudiantes de todos los niveles y a los profesores e investigadores que incurran en esta práctica. Parte de esta política debe incluir la definición de lo que significa “plagio académico” y, por tanto, de los parámetros para su detección y, en su caso, sanción. Los parámetros que surjan deberán ser ampliamente difundidos entre la comunidad académica en su conjunto, incluyendo profesores, investigadores y estudiantes de licenciatura y posgrado. Asimismo, deben contribuir de forma directa en la redacción y promulgación de códigos generales de ética académica en todas y cada una de las instituciones de educación superior del país y centros de investigación.

II. Que la SEP, el CONACYT y la ANUIES apoyen mediante la adecuación de su reglamentación y a través de programas institucionales los esfuerzos de las instituciones de educación superior y de investigación para combatir enérgicamente el plagio y otras conductas éticamente inaceptables que están relacionadas con él.

III. Que las sanciones que se apliquen en los casos de plagio comprobado por las instancias institucionales encargadas de su investigación reflejen inequívocamente su inaceptabilidad ética, intelectual e institucional.

IV. Que el CONACYT apoye técnica y financieramente a los comités académicos de los posgrados inscritos en el padrón nacional, así como a los comités editoriales (incluidos los de las revistas arbitradas) de las instituciones de investigación registradas ante el mismo Consejo, para la adquisición y puesta en uso de software lo más sofisticado posible para la detección del plagio.

V. Que las instituciones de educación superior e investigación impulsen los mecanismos para poner en línea toda su producción editorial y todas las tesis de sus egresados.

VI. Que los CV de todos los miembros del Sistema Nacional de Investigadores (SNI), incluyendo los de las comisiones dictaminadoras y revisoras, sean públicos y estén disponibles en un sitio específico del CONACYT. Asimismo, que todos los ascensos que sean promovidos o ratificados, así como los descensos de categoría, aparezcan en ese mismo sitio, con los nombres de los miembros de cada una de las comisiones respectivas.

VII. Que tanto el CONACYT como las instituciones de educación superior e investigación valoren como es debido el trabajo de dictamen o arbitraje científico de publicaciones.

VIII. Que las instituciones que formen parte del Acuerdo aquí propuesto diseñen mecanismos eficaces de información a toda la comunidad académica sobre los casos confirmados de plagio.

Por último, parece innegable que la tendencia generalizada a incrementar la cantidad de productos, el número de alumnos por programa, el número de tesis dirigidas y la eficiencia terminal (todas ellas tendencias que el CONACYT fomenta en su sistema de evaluación actual) ha terminado por jugar en contra de la calidad académica. A este respecto, proponemos que en un plazo razonable algunas de las instituciones de investigación más importantes del país, junto con el propio CONACYT, la SEP y la ANUIES, convoquen a una serie de reuniones de trabajo en la que participen los académicos mexicanos interesados, así como expertos internacionales, con el fin de diseñar políticas que, sin desechar todo lo que se ha avanzado al respecto en los últimos años y sin perder de vista la viabilidad, pongan sobre la mesa maneras distintas, novedosas, de evaluar el trabajo académico en nuestras universidades y centros de investigación.

Elisa Cárdenas, Universidad de Guadalajara; Daniela Gleizer, UAM-C; Benjamín Arditi, UNAM; José Antonio Aguilar, CIDE; Marco Antonio Landavazo, Univ. Michoacana; Roberto Breña, COLMEX; Ariadna Acevedo, CINVESTAV; Gabriel Negretto, CIDE; Antonio Azuela, UNAM; Catherine Andrews, CIDE; Tomás Pérez Vejo, ENAH; Iván Escamilla, UNAM; Soledad Loaeza, COLMEXFausta Gantús, Instituto Mora; Alfredo Ávila, UNAM; Rafael Rojas, CIDE; Eugenia Roldán, CINVESTAV; Ignacio Almada Bay, El Colegio de Sonora; Jesús Rodríguez Zepeda, UAM-I; Juan Ortiz Escamilla, Universidad Veracruzana; Érika Pani, COLMEX; Gilles Serra, CIDE

Lo que la psicología experimental dice de usted

La psicología experimental concluye que basta saber el `estilo de `pensamiento` de alguien para adivinar qué canciones le emocionan

Artículo de Javier Sampedro, publicado el 27/7/2015 en: http://elpais.com/elpais/2015/07/24/ciencia/1437765690_381696.html

John Coltrane en Ámsterdam en 1962. / CORBIS

¿Hay algo más personal que tus gustos musicales? Esas canciones que te llegan al alma o te ponen a cien, que alcanzan el centro geométrico de tu emoción y alteran sin intermediarios tu estado de ánimo, ¿no son el producto más destilado de tu elección consciente? Bien, pues, en una palabra, no. Los psicólogos experimentales de Cambridge han demostrado que los gustos musicales de la gente son harto predecibles. Basta conocer el estilo de pensamiento de una persona —si tiende a empatizar o a sistematizar— para adivinar qué música le gusta. Y los pormenores son muy interesantes, sigue leyendo.

La cuestión no es si a uno le gusta el jazz o el tango, la clásica o el calipso, el rock o el pop. Esas son unas cuestiones no solo vastas, sino también bastas: la clase de pregunta cuya respuesta no sirve para nada. La cuestión es mucho más sutil e interesante: si dentro del jazz lo que te gusta es Billie Holyday o es John Coltrane; si como oyente clásico prefieres a Mozart o a Bartok; si al escuchar pop te ponen los Beatles o los Stones, y qué canciones de los Beatles o los Stones. El diablo mora en los detalles. Siempre lo hace.

David Greenberg y sus colegas de la Universidad de Cambridge muestran empíricamente en PLoS ONE que la música que le gusta a una persona se puede deducir fácilmente de su estilo de pensamiento, un parámetro psicológico que divide a los humanos en dos grandes categorías: los empatizadores, que basan su comportamiento en evaluar y responder a las emociones de los demás (y, por tanto, son más de Mozart); y los sistematizadores, que se dedican más bien a descubrir las pautas y regularidades que esconde el mundo (y se quedan con Bartok). Esta teoría se debe al psicólogo de Cambridge Simon Baron-Cohen, que firma el trabajo como segundo autor.

Un número creciente de investigaciones psicológicas y sociológicas utilizan como materia prima las redes sociales, y la de Greenberg y sus colegas es la última de ellas. Han reclutado a 4.000 participantes mediante la aplicación myPersonality de Facebook, que pide a los voluntarios someterse a una serie de cuestionarios psicológicos. Unos meses después, los científicos piden a esos mismos voluntarios escuchar 50 piezas musicales y ponerles nota. Las piezas pertenecen a 26 géneros y subgéneros musicales, para asegurar que el género da igual, y que son las preferencias dentro de cada género las que cuentan.

Los resultados son estadísticamente nítidos: los empatizadores prefieren el rythm & blues, el rock suave —nadie ha compuesto baladas más sentidas que las fieras del heavy—, la canción melódica y los cantautores. Los sistematizadores prefieren darle al rock duro, el punk, el jazz de vanguardia y otras construcciones melódicas complejas y sofisticadas, la clase de música que nunca se oye en un ascensor. Seguro que el lector ya sabe en cuál de los dos grupos se sitúa.

El cerebro y primer autor del trabajo, David Greenberg, no solo es un doctorando en psicología, sino también un saxo tenor de jazz formado en Nueva York. “Sería posible”, dice a EL PAÍS, “mirar a los likes de Facebook de una persona, o a sus listas de reproducción en iTunes, y predecir su estilo cognitivo, o estilo de pensamiento”. No cabe la menor duda de que esto interesará a los empresarios del sector. Que, por cierto, obtendrán esa información gratis de Greenberg y PLoS, mientras que ellos no sueltan ni media.

Uno de los parámetros que utilizan los científicos de Cambridge es la “profundidad cerebral” de una canción. ¿Qué es eso? “Se basa en la complejidad estructural que suele escucharse en los géneros de vanguardia”, responde el psicólogo y jazzman. “La estructura armónica de Giant Steps [la cima del periodo hard bop de John Coltrane] cumple sin duda esas características. Pero la música de Coltrane es tan interesante porque no solo tiene todo ese nivel de profundidad cerebral, sino también una gran profundidad emocional”.

El psicólogo Greenberg jamás habría concebido este experimento de no ser por el músico Greenberg. “Mientras estudiaba jazz en Nueva York, me di cuenta de que algunos de mis profesores enseñaban con un enfoque empatizador, y otros con una estrategia más sistematizadora. Eso me dio la pista de que los estilos cognitivos podrían explicar las diferencias individuales en que la gente interactúa con la música”.

Si te molesta desnudarte en público, evita poner música en las fiestas.

En esta noticia