La idea de que la inteligencia artificial nos llevará inevitablemente a un escenario en el que las máquinas se rebelen contra los humanos es bastante popular. La superinteligencia artificial parece ser la mayor amenaza posible, y las historias fantásticas según las cuales no seremos necesarios en un mundo propiedad de la tecnología nunca han perdido popularidad.
Es inevitable
La representación literaria y cinematográfica de los sistemas informáticos inteligentes de la década de 1960 ha ayudado a dar forma y resumir nuestras expectativas para el futuro a medida que nos embarcamos en el viaje de crear inteligencia de máquinas que supere la inteligencia humana. La IA obviamente ya ha superado a los humanos en ciertas tareas específicas que requieren computación compleja, pero aún está rezagada en una serie de otras capacidades. Cómo aumentar simultáneamente el poder de esta dura herramienta y preservar nuestra posición económica sobre ella.
norte
Como la inteligencia artificial ya juega y seguirá jugando un papel importante en nuestro futuro, es imperativo explorar nuestras posibilidades de coexistir con estas tecnologías complejas.
Kevin Abosch, fundador de Kwikdesk, una empresa de procesamiento de datos e inteligencia artificial, compartió sus pensamientos al respecto. Él cree que la inteligencia artificial debe ser rápida, discreta, confiable, alfabetizada y ética. Sí, ético.
Marco ético
Video promocional:
El concepto de una red neuronal artificial, inspirada en una red neuronal biológica, no es nada nuevo. Las unidades de potencia informática, llamadas neuronas, se conectan entre sí para formar una red. Cada neurona aplica un sofisticado algoritmo de aprendizaje en la entrada, antes de transmitir datos a otras neuronas, hasta que la neurona de la salida se activa y abre la posibilidad de lectura. Los sistemas expertos dependen de las personas para "enseñar" el sistema, sembrando las semillas del conocimiento. Los motores lógicos buscan coincidencias, toman decisiones, establecen reglas si-esto-entonces-entonces en la base de conocimientos. En este proceso, se agregan nuevos conocimientos a la base de conocimientos. Una red neuronal pura aprende en el proceso de adquirir experiencia no lineal, no tiene el problema de sembrar conocimiento por parte de un experto. Las redes híbridas han demostradoque mejoran las capacidades de aprendizaje de las máquinas.
Ahora veamos las cuestiones éticas de tales sistemas. Más lejos de la primera persona.
"Código incorrecto" versus código bueno
El autor usa palabras para sumergir al lector en un mundo ficticio, y lo hace de diferentes formas, pero los grandes autores lo hacen con mucha gracia. Un ingeniero de software escribe líneas de código que facilitan el procesamiento y movimiento de datos. Él también puede elegir entre varias opciones de diferentes maneras, pero los elegantes codificadores son aficionados a la informática. El codificador progresivo se centra en cómo encapsular tanto y mejor como sea posible en un código corto y ordenado. El código redundante se mantiene al mínimo. El buen código también mantiene la ventana abierta para futuras adiciones. Otros ingenieros pueden agregar código con su elegancia inherente y el producto se desarrolla sin problemas.
Cualquier producto hecho por el hombre se basa en la intención. Las cosas hechas por personas están saturadas de intenciones y, en un grado u otro, son portadoras de la naturaleza misma del creador. A algunas personas les resulta difícil imaginar un objeto inanimado de esta naturaleza. Pero muchos estarían de acuerdo con esto. La energía de las intenciones existe desde hace miles de años, unifica, divide, une, transforma la sociedad. Tampoco se debe subestimar el poder del lenguaje. No olvide que las líneas de código están escritas en un lenguaje de programación específico. Por tanto, estoy convencido de que el código que se convierte en software utilizado en ordenadores o dispositivos móviles está muy "vivo".
Sin considerar la sabiduría y la espiritualidad en el contexto de la informática y las posibles consecuencias de la inteligencia artificial, todavía podemos ver el código estático como una sola unidad con el potencial de "hacer el bien" o "hacer el mal". Estos resultados solo se encuentran en el proceso de uso de aplicaciones por parte de personas. Son las elecciones claras que las personas toman las que afectan la naturaleza de la aplicación. Se pueden ver en un sistema local, determinando el impacto positivo o negativo en ese sistema, o basándose en un conjunto de estándares predefinidos. Sin embargo, así como un periodista no puede ser 100% imparcial en el proceso de escribir un artículo, un ingeniero, voluntaria o involuntariamente, agrega la naturaleza de sus intenciones al código. Algunos podrían argumentar que escribir código es un proceso lógico y que la lógica real no deja espacio para la naturaleza.
norte
Pero estoy seguro de que en el momento en que crea una regla, un bloque de código o todo el código, todo está imbuido de un elemento de la naturaleza humana. Con cada regla adicional, la penetración de la especie se profundiza. Cuanto más complejo es el código, más de esta naturaleza hay. De ahí surge la pregunta: "¿Puede la naturaleza del código ser buena o mala?"
Obviamente, un virus desarrollado por un pirata informático que rompe maliciosamente las defensas de su computadora y causa estragos en su vida está saturado de una naturaleza maligna. Pero, ¿qué pasa con un virus creado por los buenos para infiltrarse en las computadoras de una organización terrorista para prevenir ataques terroristas? Cual es su naturaleza? Técnicamente, podría ser idéntico a su nefasta contraparte, solo que se usa para "buenos" propósitos. ¿Entonces su naturaleza es amable? Esta es toda la paradoja ética del malware. Pero no podíamos ignorarlo, pensando en el código "maligno".
En mi opinión, existe un código que inherentemente gravita hacia el "mal" y hay un código que está intrínsecamente sesgado hacia la buena voluntad. Esto es más importante en el contexto de las computadoras sin conexión.
En Kwikdesk, estamos desarrollando un marco y un protocolo de IA basados en mi diseño híbrido de sistema experto / red neuronal, que se asemeja más a un modelo biológico. Las neuronas se manifiestan como módulos de E / S y dispositivos virtuales (en cierto sentido, agentes autónomos) conectados por "axones", canales separados y seguros de datos cifrados. Estos datos se descifran cuando ingresan a la neurona y después de ciertos procesos se cifran antes de enviarse a la siguiente neurona. Antes de que las neuronas puedan comunicarse entre sí a través de un axón, debe tener lugar un intercambio de claves entre el participante y el canal.
Creo que la seguridad y la separación deben integrarse en estas redes desde el nivel más bajo. Las superestructuras reflejan las cualidades de sus componentes más pequeños, por lo que cualquier cosa más pequeña que los bloques de construcción seguros resultará en un funcionamiento inseguro de toda la línea. Por esta razón, los datos deben protegerse localmente y descifrarse cuando se transfieren localmente.
Implementación y garantías
La calidad de nuestra vida junto con las máquinas cada vez más inteligentes es comprensiblemente una preocupación, y estoy absolutamente seguro de que debemos tomar medidas para garantizar un futuro saludable para las generaciones venideras. Las amenazas a las máquinas inteligentes son potencialmente diversas, pero se pueden dividir en las siguientes categorías:
Reserva. En los lugares de trabajo, las personas serán reemplazadas por máquinas. Este cambio ha estado ocurriendo durante décadas y solo se acelerará. Se necesita una educación adecuada para preparar a las personas para un futuro en el que cientos de millones de trabajos tradicionales simplemente dejarán de existir. Es complicado.
Seguridad. Confiamos completamente en las máquinas y seguiremos confiando. A medida que confiamos cada vez más en las máquinas a medida que nos movemos de un área segura a un área de peligro potencial, podemos enfrentar el riesgo de errores de la máquina o código malicioso. Piense en el transporte, por ejemplo.
Salud. Dispositivos de diagnóstico personal y datos médicos en red. La IA seguirá evolucionando en la medicina preventiva y el análisis de datos genéticos colaborativos. Nuevamente, debemos tener la seguridad de que estas máquinas no participarán en una subversión maliciosa ni nos dañarán de ninguna manera.
Destino. La IA predice con mayor precisión a dónde irá y qué hará. A medida que esta área se desarrolle, sabrá qué decisiones tomamos, adónde iremos la semana que viene, qué productos compraremos o incluso cuándo moriremos. ¿Queremos que otros tengan acceso a estos datos?
Conocimiento. Las máquinas acumulan conocimiento de facto. Pero si adquieren conocimientos más rápido de lo que los humanos pueden probar, ¿cómo podemos confiar en su integridad?
En conclusión, quiero señalar que nuestro camino es un enfoque atento y responsable de la IA para mitigar los problemas potenciales en una explosión de supernova tecnológica. O domesticaremos el potencial de la IA y rezaremos para que solo traiga lo mejor a la humanidad, o nos consumiremos en su potencial, que reflejará lo peor de nosotros.
Ilya Khel
