El progreso tecnológico no se detiene. Durante los últimos 100 años, la humanidad ha dado un paso tan grande que todas las generaciones anteriores habrían exclamado con sorpresa. Parecería que hay muchísimas razones para la alegría. Pero aquí está el problema: a los científicos les preocupa que el progreso avance demasiado rápido. Averigüemos por qué la inteligencia artificial, o IA, está causando tanta preocupación a los desarrolladores líderes.
Progreso que no solo sorprende sino que también asusta
norte
La mayoría de la gente puede vivir toda su vida y ni siquiera saber cuánto ha cambiado nuestro mundo. Para comprender hasta dónde ha llegado la humanidad con el desarrollo de la IA, piense en cuándo se inventaron los automóviles.
Imagínese el lejano oeste o Rusia, donde la gente montaba a caballo de izquierda a derecha, sin semáforos ni cinturones de seguridad. Las medidas de seguridad vial se tomaron mucho más tarde, cuando comenzaron a ocurrir muchos accidentes.
En la actualidad, la IA ha desarrollado vehículos autónomos que pueden reducir al mínimo los accidentes de tráfico. Los automóviles simplemente saben cómo comunicarse entre sí, construyendo una ruta segura y reaccionando ante obstáculos repentinos que crean situaciones de emergencia en las carreteras.
Video promocional:
Sin embargo, la gente sigue preocupada por la inteligencia artificial. Se plantean la pregunta: ¿qué pasará cuando las tecnologías lleguen a aquellas áreas donde es necesaria la toma de decisiones humanas? ¿La IA podrá suplantar por completo a las personas que se encargan de contratar candidatos, formar empleados, promover la empresa?
La primera razón: ¿los robots reemplazarán a los humanos?
La primera razón por la que los científicos están preocupados por el rápido desarrollo de la inteligencia artificial es que los algoritmos ya han avanzado tanto que pueden diagnosticar enfermedades e incluso decidir quién obtiene un préstamo y quién no.
Pero los partidarios de este progreso solo están felices, porque tomar decisiones humanas a veces requiere coraje, oratoria y comprensión de la psicología humana. Siempre hay un lado oscuro aquí. Después de todo, imagine lo que es decidir a quién culpar y a quién dar la libertad anticipada. O informar la muerte de un familiar, despedir a un empleado incompetente que se encuentra en una situación de vida difícil.
En un mundo ideal, no tendríamos que pensar en el lado oscuro. Las máquinas harán todo por nosotros, aunque solo sea porque serán mucho más inteligentes y menos parciales que los humanos.
Segunda razón: las máquinas se pueden manipular
Robot Sophia dijo en una entrevista: “Lees demasiado Elon Musk y ves películas de Hollywood. Si eres amable conmigo, yo seré amable contigo. Tráteme como un sistema de E / S inteligente.
Pero dado que el desarrollo comienza con las personas y las aplicaciones son utilizadas directamente por ellas, los datos que ingresan a la máquina pueden manipularse.
Otro temor de los científicos: los datos de la IA pueden estar equivocados. Esto es especialmente peligroso en el campo médico. La IA puede simplemente engañar al paciente para que realice un diagnóstico erróneo, especialmente si un médico humano o un hospital en general ha cambiado los datos para su propio beneficio. Es por eso que los desarrolladores deben ser los principales responsables de la seguridad de la información y desarrollar medidas de seguridad.
La IA y la astucia del lenguaje humano
Google se ha asociado con Jigsaw, que enfrentó un gran desafío en el desarrollo de inteligencia artificial. La ingeniera de software Lucy Wasserman está trabajando en una perspectiva de aprendizaje automático que predice la "toxicidad" de un idioma. Pero, ¿qué significa?
El significado de esta función es que el robot analizará textos de sitios web y foros de Internet que contengan un contexto ofensivo, así como un ataque a la persona, humillación o agitación.
Esto es parte de un modelo de aprendizaje automático llamado red neuronal. Estudia palabras, oraciones y párrafos, y aprende a predecir qué es tóxico y qué, por el contrario, tiene un contexto positivo.
norte
La parte más difícil de esto es tener en cuenta todos los matices. Una persona puede leer una oración y comprender por el contexto si una palabra en particular fue ofensiva. Wasserman dio un ejemplo de la palabra "homosexual" y sus formas verbales, que son sentimientos más degradantes y ofensivos.
Razón tres: los robots pueden pensar unilateralmente
Otro temor de los desarrolladores líderes: la inteligencia artificial aún no es capaz de analizar frases y oraciones, por lo que puede considerar alguna palabra ofensiva, tomando medidas “duras”. La máquina debe aprender a leer literalmente entre líneas.
Los desarrolladores ven valor en la experimentación de código abierto. Creen que realmente importa si la humanidad quiere tener robots justos.
Pero hasta ahora hoy es imposible obligar a la inteligencia artificial a adaptarse al mundo humano. Aún queda mucho trabajo por hacer.
Que los robots no sean justos da mucho miedo. De lo contrario, ¿cómo se les puede confiar la resolución de disputas y conflictos en el futuro?
El principio de inteligencia artificial sigue siendo bastante simple y se parece a una PC mejorada. Un buen ejemplo son los asistentes de voz como Alice y Siri. Hoy funcionan así: "Dado que la palabra de parada está en el texto, ciertamente es ofensiva".
Y debería ser así: “¿Qué palabras están al lado de la despectiva? Creo que el significado de la sentencia ha cambiado mucho, aunque haya algo ofensivo”.
Razón cuatro: Guía de ética
La IA debe estar centrada en el ser humano y estar diseñada de tal manera que se comprenda la ética en su firmware. Pero, ¿qué significa?
- En primer lugar, la ética se basa en los derechos fundamentales, los valores sociales y los principios de la caridad (bondad en general).
- En segundo lugar, las máquinas no deben dañar la autonomía humana ni experimentar un sentido de justicia.
Otro temor de los desarrolladores: cuando la inteligencia artificial alcance la cima de su desarrollo y no pueda depender del apoyo de las personas, se volverá contra la humanidad.
Todo depende de los desarrolladores. Pueden dirigir el trabajo de la inteligencia artificial para combatir el crimen. Por ejemplo, busque a los que distribuyen pornografía infantil.
Es importante establecer funciones de seguridad antes de que la IA se salga del control humano. Y saldrá sin ambigüedades, porque este es el punto.
Los robots deben estar cerca de los humanos
En otras palabras, si alguien va a confiar en una decisión tomada por una máquina, debe cumplir con los criterios humanos. Es por eso que los desarrolladores deben asegurarse de que todas las decisiones tomadas por el algoritmo sean justas. Para los científicos, el objetivo no es crear una forma alternativa de inteligencia, sino ayudar a las personas a desarrollarse.
Al final del día, la mayoría de la gente está de acuerdo en que la IA traerá un mundo nuevo y maravilloso.
Quinta razón: guerra contra la humanidad
Lo más importante que mantiene despiertos a los desarrolladores por la noche es tratar de comprender las infinitas posibilidades y el impacto de esta tecnología en la atención médica, la educación y el servicio al cliente. Cuando la IA vaya más allá del "proyecto" y finalmente entre en producción, tendrá un impacto social real.
Cada uno de los desarrolladores cree que estamos en un punto de inflexión entre el mundo humano y el digital. Pero la IA no puede cambiar nuestras vidas sola. En primer lugar, las personas deben cambiarse a sí mismas para realizar todo el potencial de la inteligencia.
No es sorprendente que los humanos le tengan miedo a la IA. Pero no podrán esclavizar ni destruir a quienes comparten un objetivo común con ellos: desarrollarse y progresar. Cuando las personas se den cuenta de que no deben pensar como animales, sino como seres superiores, ningún robot tendrá miedo.
Alisa Krasnova
