¿Qué estás buscando?

Ej: Grado en medicina, admisiones, becas...

Admisiones:
Valencia: +34 961043883
Alicante: +34 965051793
Canarias: +34 922097091
Escuela Universitaria Real Madrid: +34 911128850
Estudiantes:
Valencia: +34 961043880
Alicante: +34 961043880
Canarias: +34 922985006
Whatsapp

#TECNOLOGÍA | Chat-GPT4: un potente software con riesgo de tener fines malintencionados

23 mar 2023

La tecnología de chatGPT es aún muy nueva y sólo con el tiempo nos iremos dando cuenta de los efectos perniciosos que puede tener su uso en el medio plazo, sostiene el profesor Enrique Puertas.

so_ok.jpg

La Inteligencia Artificial lleva semanas en boca de todos, especialmente, debido a las nuevas funcionalidades que nos ofrece Chat-GPT4, un potente software revolucionario. Sin embargo, debemos ser cautos con estas herramientas que, tal y como indica Enrique Puertas, profesor de Inteligencia Artificial y Big Data en la Universidad Europea, "pueden emplearse para cosas muy positivas, pero también podría pervertirse su uso y usarse con fines malintencionados debido a la calidad de los textos que genera".

De hecho, el profesor alerta de que chatGPT es una herramienta que podría utilizarse para propagar campañas de desinformación -como las famosas fake news-, escribir correos phising para robar credenciales e información sensible o incluso pedir que haga trabajos académicos, entre otras muchas opciones.

  • ¿Hay algún consejo que debamos tener en cuenta si somos usuarios primerizos?

Lo primero es ser conscientes de qué pasa con los datos de las cosas que le contamos a chatGPT. Algunas de las empresas que ofrecen servicios de chat del tipo chatGPT, como por ejemplo Google Bards, indican en los términos y condiciones de uso del servicio (eso que nunca se lee nadie), que las cosas que introduzcamos las pueden guardar y almacenar durante tres años y que además podrían ser revisadas por personas. Por este motivo nos sugieren que no se introduzca ningún tipo de información sensible:

Para la gente que se enfrenta por primera vez a una IA como la de chatGPT, mi consejo es pedirle cosas como si se las estuviéramos pidiendo a un amigo (uno muy listo que sabe de todo), y seguir un enfoque de refinamientos sucesivos. Esto lo que para conseguir algo complejo y elaborado, lo mejor es empezar pidiendo algo más general y abstracto, y luego ir pidiendo que vaya refinando partes del texto generado. Por ejemplo, si queremos que nos escriba un artículo sobre Inteligencia Artificial para un blog, podemos empezar pidiendo que nos genere un esquema de seis capítulos de un artículo sobre IA, y cuando nos lo escriba, le vamos pidiendo que nos redacte los detalles del capítulo uno, a continuación lo mismo para el dos, etc. y en cada texto que nos escriba le podemos ir preguntando o pidiendo cosas en función de lo que nos vaya poniendo.

  • ¿Podremos mejorar nuestra productividad -a corto plazo- con esta tecnología?

A lo largo del 2023 vamos a ir viendo la aparición de multitud de herramientas que utilizan chatGPT o tecnologías similares. Microsoft ha anunciado Microsoft 365 Copilot, que es la nueva versión de Office que integra chatGPT y que nos va a permitir pedirle mediante lenguaje natural que nos cree una presentación en PPT con diez slides sobre un determinado tema, o que a partir de los datos de una hoja Excel nos haga un resumen, nos cree automáticamente gráficas y nos muestre las valoraciones más relevantes extraídas de los datos. Esto es sólo un ejemplo, en el futuro cercano vamos a ir viendo cómo con esta tecnología van a ir apareciendo nuevas herramientas que van a mejorar nuestra productividad de forma muy significativa.

La nueva versión de chatGPT está basada en GPT-4, un modelo de Inteligencia Artificial 500 veces más grande que la versión anterior, GPT-3. La versión anterior tenía 175 mil millones de parámetros, y esta nueva versión trabaja con un billón de parámetros. Si hablamos de mejoras, se ha reducido drásticamente lo que se conocía como 'alucinaciones', que es cuando chatGPT empezaba a escribir cosas irreales, inventándose el contenido. Esta nueva versión es además multimodal, lo que significa que, además de texto, podemos introducirle por ejemplo una imagen y hacer preguntas sobre ella. Por ejemplo, podríamos subir una foto de nuestra factura de la luz y a continuación pedirle que nos la explique y nos de recomendaciones para ahorrar en la próxima factura.

  • ¿Ha venido para quedarse la Inteligencia Artificial?

Actualmente está presente en prácticamente todos los sectores: retail, logística, finanzas, seguros… y por supuesto en sanidad, tanto en la parte clínica como en la de gestión. Ya hay sistemas de IA que son capaces de predecir la aparición de patologías o diagnosticarlas con una precisión incluso superior a la de los médicos en algunos casos.

La IA puede ayudar en la detección de enfermedades, y fomentar un sistema sanitario más eficiente. Por ejemplo, hay hospitales en España que utilizan modelos de Inteligencia Artificial para que cuando a un paciente se le da cita con un especialista, analizan de forma automática las notas de atención primaria, y sugieren las pruebas analíticas que el sistema estima, con una altísima precisión, que el especialista va a necesitar para atender al paciente. De esta forma, la persona llega a consulta ya con sus resultados de pruebas y el médico puede hacer un diagnóstico inicial. En el procedimiento tradicional, en la primera consulta con el especialista, lo que ocurre es que éste solicita las pruebas y emplaza al paciente a una segunda consulta. Con la Inteligencia Artificial se ahorra tiempo, recursos, y se mejora la atención al paciente.

  • ¿Es posible enseñar ética a una IA, pese a estar muchas veces faltos de ella?

Hay iniciativas y proyectos que trabajan justo en esa línea, pero no perdamos de vista de que la Inteligencia Artificial aprende a partir de datos. Si los datos contienen sesgos, o comportamientos no éticos, la IA aprenderá esos malos comportamientos. Por eso es tan importante trabajar en garantizar que la IA aprende con datos de calidad, y eso incluye datos que se han tratado para eliminar los sesgos y errores que pueden contener. Este es uno de los grandes retos hoy en día, ya que a esta parte tan importante no se le está prestando la suficiente atención por parte de algunas empresas e instituciones.