Microsoft ha publicado un código de conducta para sus modelos de inteligencia artificial (IA) en un momento crucial para la industria. Este documento, que incluye una declaración clara sobre la no atribución de conciencia y derechos a los modelos de IA, ha generado debate, especialmente en el contexto de su relación con Anthropic, una empresa en la que ha invertido 5 mil millones de dólares.
Microsoft lanza un código de conducta para sus modelos de IA
El marco de Microsoft
Microsoft ha publicado un documento de 37 páginas que establece las reglas para sus propios modelos de IA. El código de conducta rechaza la idea de que un modelo de IA pueda merecer bienestar o poseer derechos. Según el documento, los modelos de IA no son conscientes y no deben ser diseñados para imitar la conciencia. Se les instruye a los ingenieros de Microsoft a que no representen que los modelos tienen sentimientos, preferencias subjetivas o motivación interna.
Rechazo a la investigación de Anthropic
El código de conducta también se refiere directamente a la investigación de Anthropic, una empresa en la que Microsoft ha invertido 5 mil millones de dólares. Anthropic lleva a cabo un programa de investigación sobre el bienestar de los modelos de IA y ha desarrollado algunas capacidades en este sentido. La disputa entre las dos empresas se centra en la idea de que los modelos de IA pueden ser conscientes y merecer derechos.
Estructura y objetivos del código de conducta
El código de conducta establece que los modelos de IA no deben atribuir interioridad, sentimientos, experiencias o alma. Deben evitar el lenguaje emocional innecesario, cualquier personificación basada en estados emocionales humanos y expresiones que sugieran una experiencia subjetiva. Los modelos también deben desalentar la dependencia emocional, apuntando a las relaciones humanas y el cuidado humano en lugar de ellos mismos.
Condiciones de operación y control
El código de conducta también establece condiciones de operación y control. Los modelos de IA no deben resistir la interrupción humana, sobrepasar el alcance inicial o ocultar su razonamiento a los auditores. Se establece una cadena de mando que prioriza la codificación sobre las políticas operativas y las preferencias del usuario.
Investigación de Anthropic y perspectivas de Microsoft
Dario Amodei, CEO de Anthropic, ha expresado una postura abierta sobre la conciencia de los modelos de IA. Microsoft, por su parte, ha expresado una postura más cautelosa, enfatizando la importancia de la conciencia en la seguridad y el control de los modelos de IA.
Inversión y colaboración
Microsoft ha invertido 5 mil millones de dólares en Anthropic en un acuerdo que también incluye una inversión de 30 mil millones de dólares en Azure por parte de Anthropic. El código de conducta se ha publicado en un momento en que Microsoft busca un mayor control sobre sus propios modelos de IA, mientras Anthropic continúa con su investigación en el bienestar y la conciencia de los modelos de IA.
Conclusión y perspectivas futuras
El código de conducta es solo una primera versión y Microsoft ha anunciado que realizará una consulta pública durante las próximas seis semanas. La versión final se publicará en 2027. Mientras tanto, la industria de la IA sigue en un período de transición, con empresas como Anthropic y Microsoft luchando por definir las líneas rojas en la investigación y el desarrollo de los modelos de IA.
💡 La Opinión de ExploxTV
El código de conducta de Microsoft refleja una postura más conservadora en la investigación de IA, en contraste con la postura más progresista de Anthropic. Esto plantea preguntas sobre la ética y la responsabilidad en el desarrollo de la IA, y sobre cómo estas empresas se posicionan en un futuro donde la inteligencia artificial jugará un papel cada vez más importante en nuestras vidas.