Desde hace un tiempo, la inteligencia artificial (IA) desempeña un papel fundamental en diversas aplicaciones, desde asistentes virtuales hasta generadores de texto como ChatGPT. Aunque estas tecnologías han avanzado significativamente, es esencial examinar críticamente su capacidad para incorporar un lenguaje inclusivo. En este artículo, exploraremos cómo ChatGPT, a pesar de sus impresionantes habilidades lingüísticas, puede carecer de sensibilidad en términos de inclusión.
El lenguaje inclusivo se ha convertido en un tema crucial en la sociedad contemporánea, ya que promueve la equidad, el respeto y la consideración hacia todas las identidades. Abordar este aspecto en tecnologías como ChatGPT es esencial para garantizar que la inteligencia artificial refleje y respalde los valores de diversidad que la sociedad abraza cada vez más.
Aunque ChatGPT demuestra una comprensión avanzada del lenguaje, su entrenamiento se basa en grandes cantidades de datos textuales recopilados de la web. Esta fuente de datos a menudo contiene sesgos inherentes, reflejando las estructuras de poder y prejuicios presentes en la sociedad. Como resultado, ChatGPT puede replicar sin intención estos sesgos, perjudicando la inclusión de ciertos grupos.
El lenguaje inclusivo implica el reconocimiento y respeto de diversas identidades culturales y de género. Sin embargo, ChatGPT puede fallar en esta área al no tener en cuenta las sensibilidades específicas de ciertos grupos. Es crucial que las empresas desarrolladoras de inteligencia artificial trabajen activamente para corregir estos sesgos y mejorar la adaptabilidad de sus modelos a diferentes contextos culturales y de género.
Una estrategia para mejorar la inclusión en ChatGPT es la integración de la retroalimentación humana. Al permitir que los usuarios proporcionen comentarios sobre posibles sesgos o inexactitudes, los desarrolladores pueden ajustar continuamente el modelo para hacerlo más inclusivo y respetuoso.
A medida que la sociedad avanza, es imperativo que la inteligencia artificial evolucione en paralelo para reflejar los valores emergentes. El desarrollo de modelos más inclusivos no solo depende de los programadores, sino también de la colaboración activa con expertos en diversidad, lingüistas y comunidades afectadas.
- ¿PUEDE SER ÚTIL PARA LAS ADMINISTRACIONES?
Si, pero aún tiene muchas limitaciones.
La adopción de ChatGPT por parte de las administraciones enfrenta desafíos como la regulación de privacidad, la falta de experiencia técnica, los costos de implementación y mantenimiento, preocupaciones éticas y de transparencia, la aceptación pública y la confianza, así como limitaciones técnicas y de rendimiento. Para superar estos obstáculos, se requiere una inversión en capacitación, garantías de cumplimiento normativo y ético, una comunicación clara sobre los beneficios y salvaguardas del sistema, así como un enfoque colaborativo que involucre a diversas partes interesadas.
No podemos negar que la automatización juega un papel crucial en la simplificación y reducción de la burocracia administrativa. Sin embargo, es esencial la supervisión humana para garantizar que la implementación de la inteligencia artificial siga priorizando las necesidades de las personas. Esto se debe a que, en ocasiones, la solución más eficiente según el algoritmo no necesariamente es la mejor opción para el servicio público.
- ¿SON IMPORTANTES LA ADMINISTRACIÓN Y LA CLASE POLÍTICA PARA CONSEGUIR ESTE OBJETIVO EN LENGUAJE INCLUSIVO?
La administración y la clase política juegan un papel importante en la promoción y adopción del lenguaje inclusivo en ámbitos como el laboral y educativo. Además, pueden tomar medidas para asegurar que el lenguaje utilizado en las instituciones gubernamentales sea inclusivo y garantice que sea una norma en la sociedad.
Por ello, y observando la rapidez con la cual evolucionan todos los procesos, las administraciones no pueden ni deben quedarse atrás y, por supuesto, hacerlo desde una perspectiva anticuada. En la era actual, con la digitalización de los servicios públicos y los cambios en la forma de gobernar, es recomendable que la administración trabaje activamente para implementar herramientas de ayuda como Chat GPT y, de algún modo, mejorar la calidad de la gestión pública y, por tanto, el servicio a los ciudadanos.
