La tecnología ahora existe para crear armas autónomas que pueden seleccionar y matar objetivos humanos sin supervisión que instó a la ONU a proscribirlas.
La película retrata un futuro brutal. Una empresa militar da a conocer un pequeño avión no tripulado que caza y mata con implacable eficiencia. Pero cuando la tecnología caiga en manos equivocadas, nadie está a salvo. Los políticos son cortados en plena luz del día. Las máquinas descienden en una sala de conferencias y activistas punto, que se envían con rapidez con un explosivo en la cabeza.
El corto, inquietante película es el último intento de los activistas y científicos comprometidos para poner de relieve los peligros de desarrollar armas autónomas que pueden encontrar, rastrear y fuego sobre objetivos sin supervisión humana. Ellos advierten que se necesita urgentemente una prohibición preventiva en la tecnología para evitar terribles nuevas armas de destrucción masiva.
Stuart Russell, un científico que lleva la IA en la Universidad de California en Berkeley, y otros mostrarán la película el lunes durante un evento en las Naciones Unidas Convención sobre armas convencionales organizada por la campaña para detener Robots del asesino . La fabricación y uso de armas autónomas, tales como aviones, tanques y ametralladoras automáticas, serían devastadores para la seguridad y la libertad humana, y la ventana para detener su desarrollo se está cerrando rápidamente, Russell advirtió.
“La tecnología se ilustra en la película es simplemente una integración de las capacidades existentes. No es ciencia ficción. De hecho, es más fácil de lograr que los coches auto-conducción, que requieren estándares mucho más altos de rendimiento “, dijo Russell.
El ejército ha sido uno de los mayores proveedores de fondos y adoptar la tecnología de inteligencia artificial. Las técnicas de computación ayudar a los robots volar, navegar terreno, y los territorios de patrulla bajo los mares. Conectado a una fuente de la cámara, los algoritmos de reconocimiento de imágenes pueden escanear imágenes de vídeo para blancos mejor que una lata humana. Un centinela automatizado que guarda la frontera de Corea del Sur con el Norte se basa en la tecnología para detectar y seguir blancos de hasta 4 km.
Los sistemas de reconocimiento, mientras que aviones no tripulados militares mucho tiempo se han volado de forma remota para la vigilancia y ataques, armas autónomas armados con explosivos y se dirigen hoy están al alcance y podrían localizar y atacar sin diferir a un controlador humano. Los opositores creen que la entrega del poder sobre las máquinas que vive y muere cruza una línea moral clara .
“Siguiendo el desarrollo de armas letales autónomas reduciría drásticamente la seguridad internacional, nacional, local y personal,” dijo Russell. Los científicos utilizaron un argumento similar para convencer a los presidentes Lyndon Johnson y Richard Nixon a renunciar al programa de armas biológicas de Estados Unidos y, finalmente, llevar a cabo la Convención sobre las armas biológicas.
Debido a que las máquinas accionadas por la IA son relativamente baratos de fabricar, los críticos temen que las armas autónomas podrían ser producidos en masa y caen en manos de naciones rebeldes o terroristas que lo puedan utilizar para suprimir las poblaciones y causar estragos, ya que la película retrata.
Un tratado de prohibición de armas autónomas impediría la fabricación a gran escala de la tecnología. También proporcionaría un marco para vigilar las naciones que trabajan en la tecnología, y la propagación de los dispositivos de doble uso y de software, tales como cuadricóptero y apuntar a los algoritmos de reconocimiento. “Códigos de ética profesionales deben también no permitir el desarrollo de máquinas que pueden decidir matar a un ser humano”, dijo Russell.
En agosto, más de 100 de los principales robótica del mundo y pioneros AI pidió a la ONU que prohíben el desarrollo y uso de robots asesinos . La carta abierta , firmada por el director ejecutivo de Tesla, Elon Musk, y Mustafa Suleyman, el fundador de la unidad profunda mente IA del alfabeto, advirtió que era necesaria una prohibición urgente para evitar una “tercera revolución en la guerra”, después de pólvora y nucleares brazos. Hasta el momento, 19 países han pedido la prohibición, incluyendo Argentina, Egipto y Pakistán.
Noel Sharkey, profesor emérito de la IA en la Universidad de Sheffield y presidente de la Comisión Internacional sobre el Control de Armas del robot, advirtió sobrelos peligros de las armas autónomas hace 10 años. “La película me puso los pelos de punta, ya que cristaliza un resultado posible futurista del desarrollo de estas armas de alta tecnología”, dijo. “No es una carrera de armamentos entre las naciones emergentes de alta tecnología para desarrollar submarinos autónomos, aviones de combate, buques de guerra y tanques que pueden encontrar sus propios objetivos y aplicar la fuerza violenta y sin la participación de las decisiones humanas significativas. Sólo le tomará una guerra importante para desencadenar estas nuevas armas con las trágicas consecuencias humanitarias y la desestabilización de la seguridad global “.
Los criminales y los activistas han dependido durante mucho tiempo de máscaras y disfraces para ocultar su identidad, pero las nuevas técnicas de visión por ordenador pueden ver esencialmente a través de ellos. A principios de este año, los científicos financiados por el gobierno de la India trabajaron con la Universidad de Cambridge en un algoritmo para identificar a las personas que ocultaban sus rostros con sombreros y gafas de sol, barbas postizas y bufandas. Sigue siendo un problema técnico difícil, pero el reconocimiento de rostros es sólo una manera de identificar a las personas. “Un pasamontañas no oculta la propia o la edad o el origen étnico de género. Y podría convertirse fácilmente en la 'norma' que las armas también atacarán a los que se consideran la prevención de identificación o clasificación por encubrir el rostro y el cuerpo “, dijo Russell.
En 2015, el gobierno del Reino Unido se opuso a una prohibición internacional de robots asesinos. El Ministerio de Asuntos Exteriores dijo que no veía necesidad de la prohibición como el derecho internacional humanitario ya la zona regulada. “El Reino Unido no se está desarrollando sistemas de armas letales autónomas, y la operación de sistemas de armas por parte de las fuerzas armadas del Reino Unido siempre estará bajo la supervisión y el control humano”, dijo un portavoz del Ministerio de Asuntos Exteriores en el momento.
Pero de acuerdo con la campaña para detener Killer Robots , una serie de países, incluyendo los EE.UU., China, Rusia, Israel, Corea del Sur, y el Reino Unido se están moviendo hacia sistemas que darían “mayor autonomía de combate” a las máquinas.
“Los movimientos de las Naciones Unidas en el ritmo de iceberg y actores con intereses creados ponen obstáculos en el camino en cada vuelta”, dijo Sharkey. “Sin embargo, la campaña sigue adelante con el apoyo masivo de la comunidad científica. Hay que tener éxito porque las alternativas son demasiado horrible “.
Algunos ya dicen ES DEMASIADO TARDE PARA PROHIBIRLOS, PORQUE DE HECHO , YA SE CREARON 10 AVIONES "NO TRIPULADOS"
FUENTE: EPA