Nuestro Compromiso con la IA Responsable
Declaración Pública de IA: Introducción a Nuestros Principios y Prácticas Fundamentales
Nuestro Enfoque
En Geotab, reconocemos y valoramos el potencial transformador de la inteligencia artificial (IA) para mejorar nuestras operaciones, productos y servicios. Esta página presenta nuestro compromiso con la adquisición, desarrollo, implementación, suministro y/o uso responsable de la IA, asegurando que se respeten los principios éticos, que se gestionen los riesgos relacionados con la IA responsable y que se anticipe el cumplimiento de las regulaciones emergentes.
Nuestros Principios
En coherencia con nuestros valores corporativos establecidos —incluyendo sostenibilidad, diversidad, equidad, inclusión y responsabilidad social— estamos comprometidos a mantener principios éticos en la adquisición, desarrollo, implementación, suministro y/o uso de tecnologías de IA responsable.
Nuestros principios de IA abarcan lo siguiente:
- Confiabilidad del sistema: Todo sistema de IA que sea adquirido, desarrollado, utilizado o comercializado por Geotab procurará alcanzar niveles apropiados de confiabilidad, comparables con el Marco de Gestión de Riesgos de IA del NIST AI RMF (National Institute of Standards and Technology AI Risk Management Framework). Esto se aplicará también en contextos de IA en logística y transporte, donde los niveles de precisión, resiliencia y seguridad son fundamentales.
Este principio incluye:
Validez y Fiabilidad
Todos los sistemas de IA deberán proporcionar resultados precisos y consistentes bajo condiciones esperadas.
Protección
Ningún sistema de IA deberá poner en peligro la vida, la salud, los bienes o el medio ambiente.
Seguridad y Resiliencia
Todos los sistemas deberán ser capaces de soportar eventos adversos inesperados o cambios imprevistos en su entorno o uso, manteniendo la confidencialidad, integridad y disponibilidad frente a acciones adversas o no autorizadas.
Responsabilidad y Transparencia
Se deberá proporcionar información significativa y oportuna sobre cada sistema de IA a todas las partes interesadas relevantes, adaptada al nivel de conocimiento y accesibilidad esperado para cada público. Una estructura clara de rendición de cuentas debe regir cada decisión relacionada con un sistema de IA.
Explicabilidad e Interpretabilidad
Todos los sistemas deberán estar diseñados y documentados para permitir responder cómo y por qué se tomó una decisión por parte del sistema, en la mayor medida posible.
Privacidad por diseño
Todos los sistemas de IA deberán proteger la autonomía, identidad y dignidad humana con respecto a la privacidad, en la mayor medida posible.
Equidad
Todos los sistemas de IA deberán cumplir una métrica definida de equidad apropiada para su contexto y deberán gestionar todas las formas de sesgo perjudicial, incluyendo sesgo del sistema, sesgo computacional y estadístico, y sesgo cognitivo humano.
2. Supervisión humana y rendición de cuentas: Nos comprometemos a garantizar que todos los procesos y materiales relacionados con la IA dentro de nuestra organización estén sujetos a mecanismos adecuados de supervisión, con el fin de permitir la adquisición, desarrollo, implementación, suministro y/o uso responsable de la IA. También adoptamos todas las formas de rendición de cuentas externa, incluyendo la búsqueda de auditorías y certificaciones independientes, la supervisión por parte de organismos gubernamentales y una transparencia significativa con las partes públicas interesadas.
3. Beneficencia, equidad y ética: Alineamos nuestra estrategia de IA con el interés general de nuestra organización para preservar y promover el bienestar social. Esto incluye nuestros compromisos con marcos éticos relacionados con la sostenibilidad, la equidad y los derechos humanos, principios esenciales para una IA responsable, especialmente en sectores como la gestión de flotas con inteligencia artificial.
4. Aprendizaje continuo: Dado que el entorno tecnológico y regulatorio de la IA evoluciona rápidamente, estamos comprometidos con una cultura de apertura mental, flexibilidad y diálogo. Colaboraremos con socios, colegas, partes interesadas y el público para invertir en conocimiento compartido y una visión común sobre el desarrollo de una IA responsable.
Aplicaciones de IA que no desarrollaremos
Además de los objetivos mencionados anteriormente, nos abstendremos de crear o utilizar tecnologías de IA que puedan causar daño o que probablemente resulten perjudiciales en términos generales. También evitaremos desarrollar sistemas de IA cuyos objetivos entren en conflicto con leyes internacionales ampliamente aceptadas y con los principios de los derechos humanos. En situaciones donde exista un riesgo significativo de daño, solo avanzaremos si estamos plenamente seguros de que los beneficios potenciales superan claramente los riesgos. Además, implementaremos medidas de seguridad apropiadas para mitigar dichos riesgos, garantizando así el desarrollo de una IA responsable.
A medida que evoluciona nuestra comprensión sobre la IA, esta lista de principios podrá ajustarse con el tiempo.
Implementación de Nuestros Principios
Evaluamos todos los proyectos de investigación y aplicaciones nuevas de IA para asegurar que estén alineados con nuestros Principios. A medida que surgen y evolucionan tecnologías avanzadas, continuaremos perfeccionando nuestro proceso y programa de gobernanza de IA.
Desarrollo Responsable de Ace
Además de los principios ya conocidos para la implementación de una IA responsable (principalmente relacionados con el aprendizaje automático), la IA generativa (Gen AI) presenta desafíos adicionales.
En el contexto de este proyecto, enfrentamos desafíos específicos y los superamos mediante una solución multifacética. Específicamente, nuestro enfoque se basó en:
- Diseño centrado en el ser humano, lo que significa que consideramos a nuestros usuarios finales durante el diseño de los sistemas.
- Enfoque constante en la recolección de datos de alta calidad.
- Fundamentación del modelo en hechos verificables.
- Pruebas de esfuerzo mediante red teaming o hacking ético para evaluar la solidez de los modelos.
- Asegurar que estamos implementando una solución de nivel empresarial.
Conviértete en pionero de la IA sostenible
En Geotab, creemos que una IA responsable también significa una IA sostenible. Continuaremos monitoreando cuidadosamente el impacto ambiental del uso de nuestras tecnologías de IA y promoviendo un equilibrio adecuado entre innovación y sostenibilidad.
Código de Conducta Voluntario de Canadá sobre IA Responsible
Geotab se enorgullece de formar parte de una comunidad creciente de organizaciones canadienses comprometidas con prácticas de IA responsable, seguras y éticas.
Este compromiso está alineado con nuestra misión de aprovechar los datos y la inteligencia artificial (IA) de forma responsable, empoderando a las organizaciones para tomar decisiones informadas que mejoren la seguridad, la eficiencia y la sostenibilidad.
Al adoptar este Código, reafirmamos nuestra dedicación a una innovación responsable que beneficie a las empresas, las comunidades y el medio ambiente.
Geotab espera seguir colaborando con el gobierno, la industria y los socios comunitarios para construir un futuro impulsado por la IA en el que todos podamos confiar.
Leer el comunicado completo de @Innovación, Ciencia y Desarrollo Económico de Canadá