🤖 IA sen misterio
Que significan as siglas IA?
Intelixencia Artificial.
Que é un prompt?
É a instrución ou petición que lle damos á IA para indicarlle que queremos que faga.
¿É boa idea introducir un contrasinal nunha IA para que nos axude a comprobalo?
Non. Nunca debemos introducir contrasinais reais nin outras credenciais nunha IA.
Nomea dúas tarefas administrativas nas que unha IA pode axudar.
Redactar borradores, resumir documentos, crear correos, organizar información, xerar ideas, traducir textos, etc.
"ChatGPT, aquí tes o meu contrasinal corporativo. Dime se é seguro."
❓ ¿Que está mal?
Nunca debería introducir o contrasinal real. Podería describir as características dun contrasinal seguro sen revelar o auténtico.
Cal é a principal diferenza entre unha IA xerativa e un buscador tradicional?
Un buscador localiza información existente, mentres que unha IA xerativa xera contido novo a partir das instrucións e datos cos que traballa.
Cal destes prompts é mellor?
A) "Fálame de contratación pública."
B) "Explica os principios básicos da contratación pública a un empregado público que está comezando, utilizando exemplos sinxelos."
B, porque proporciona máis contexto, destinatario e finalidade, polo que facilita unha resposta máis axeitada.
Que tipo de información persoal deberías evitar introducir nunha IA pública?
Datos persoais identificativos, DNI, teléfonos, enderezos, datos económicos, información médica, credenciais, etc., especialmente se non temos garantías sobre o tratamento dos datos.
Para que podería utilizarse unha IA na elaboración dun borrador de correo electrónico?
Para crear un primeiro borrador, adaptar o ton, mellorar a redacción, resumir información ou estruturar a mensaxe.
"Resume este documento para min."
O documento contén datos persoais de 300 cidadáns.
❓ ¿Que deberías comprobar antes?
Hai que comprobar se podemos cargar ese documento, valorar os datos persoais e, se procede, anonimizar ou utilizar unha ferramenta autorizada.
Que significa que unha IA sexa multimodal?
Que pode traballar con diferentes tipos de información, como texto, imaxes, audio, vídeo ou documentos, e non só con texto.
Que elementos debería incluír un bo prompt para obter unha resposta máis precisa?
Por exemplo: rol, contexto, tarefa, formato de resposta, destinatario e criterios ou limitacións. Non sempre son necesarios todos.
Que é a anonimización e para que serve antes de utilizar un documento cunha IA?
É o proceso de eliminar ou modificar os datos que permiten identificar unha persoa, reducindo o risco de exposición de información persoal.
Un empregado público recibe un documento de 80 páxinas. Como podería utilizar unha IA para traballar con el de maneira eficiente?
Podería resumilo, extraer os puntos principais, localizar información concreta, crear unha estrutura ou formular preguntas sobre o documento, sempre verificando os resultados.
"A IA díxome que este artigo legal establece esta obrigación. Polo tanto, debe ser certo."
❓ ¿Cal é o erro?
Erro de confianza na IA. A información legal debe contrastarse coa fonte oficial e a normativa vixente.
Que significa que unha IA pode sufrir unha "alucinación"?
Que a IA pode xerar información falsa ou incorrecta presentándoa como se fose certa.
Que é o prompt chaining ou encadeamento de prompts?
Consiste en dividir unha tarefa complexa en varias instrucións consecutivas, utilizando o resultado dunha para realizar a seguinte.
Que risco existe se cargas nunha IA un documento interno da Administración sen comprobar como trata os datos introducidos?
Podemos provocar unha exposición ou tratamento inadecuado de información confidencial ou persoal, ademais de incumprir políticas internas ou obrigas legais.
A IA redacta un informe administrativo aparentemente perfecto. ¿Pode o funcionario asinalo directamente? Razoa a resposta.
Non. A IA pode axudar na elaboración, pero a persoa responsable debe revisar, comprobar e validar o contido antes de utilizalo ou asinalo.
Un funcionario copia un informe generado por IA, cambia o nome do destinatario e envíao sen revisar o contido.
❓ Identifica polo menos tres riscos.
Pode conter erros, información inventada, datos incorrectos, referencias legais falsas, información confidencial ou problemas de redacción. Ademais, hai unha falta de revisión humana.
Unha IA responde con seguridade e dá unha información moi convincente. ¿Significa iso que a información é necesariamente correcta? Explica por que.
Non. Unha IA pode producir respostas moi convincentes pero incorrectas. Por iso hai que verificar a información, especialmente en ámbitos sensibles como a Administración, a normativa ou os datos legais.
Tes que pedir á IA que redacte un informe administrativo. Deseña un prompt completo indicando rol, contexto, tarefa, formato e criterios.
Deberían identificar correctamente os elementos. Exemplo: "Actúa como técnico da Administración pública [rol]. O contexto é [contexto]. Redacta un borrador de informe sobre [tema] [tarefa]. Estrutúrao en antecedentes, fundamentos e proposta [formato]. Utiliza linguaxe administrativa clara, non inventes datos e indica calquera información que falte [criterios]."
Tes un PDF que contén nomes, DNI, teléfonos, enderezos e información económica de cidadáns. Queres utilizar unha IA para resumilo. Que pasos deberías realizar antes de subir o documento?
Comprobar se está permitido utilizar esa IA, identificar os datos sensibles, anonimizar/minimizar os datos, eliminar información innecesaria, comprobar as condicións de tratamento e, se procede, utilizar unha ferramenta autorizada pola organización.
Un departamento quere utilizar IA para clasificar automaticamente solicitudes cidadás. Que aspectos debería analizar antes de poñela en funcionamento?
Protección de datos, seguridade, finalidade, posibles erros ou discriminacións, supervisión humana, transparencia, responsabilidades, normativa aplicable e impacto da decisión automatizada.
Un compañeiro diche:
"Non te preocupes pola seguridade. Esta IA é moi boa. Ademais, se lle pasamos información interna, ninguén vai saber que a utilizamos. Só lle pedimos que nos faga un resumo."
❓ Identifica TODOS os problemas que ves nesta situación e explica como debería facerse correctamente.
Hai varios problemas: confundir capacidade con seguridade, introducir información interna sen autorización, descoñecer como se tratan os datos, posible exposición de información confidencial, ausencia de control e falta de verificación das respostas. A solución é utilizar ferramentas autorizadas, aplicar minimización/anonimización cando corresponda e manter supervisión humana.