ISO 27001 e inteligencia artificial: cómo usar ChatGPT y Copilot sin poner en riesgo la información de tu empresa
La inteligencia artificial generativa ya forma parte del trabajo diario de miles de organizaciones.
ChatGPT, Microsoft Copilot, Gemini, Claude y otras herramientas pueden ayudar a analizar documentos, redactar informes, escribir código, resumir reuniones, revisar contratos o acelerar investigaciones.
El problema aparece cuando, para obtener una respuesta, los usuarios empiezan a introducir en estas herramientas información que pertenece a la organización.
Datos de clientes.
Código fuente.
Contratos.
Informes financieros.
Procesos internos.
Credenciales.
Información de empleados.
Documentos confidenciales.
Y aparece una pregunta cada vez más importante:
¿Cómo encaja el uso de inteligencia artificial dentro de un Sistema de Gestión de Seguridad de la Información basado en ISO/IEC 27001?
La respuesta corta es sencilla:
ISO/IEC 27001 no prohíbe utilizar inteligencia artificial. Lo que exige es identificar, evaluar y tratar adecuadamente los riesgos que puedan afectar la confidencialidad, integridad y disponibilidad de la información.
Y cuando una organización empieza a utilizar IA generativa, aparecen nuevos escenarios que el responsable de seguridad, el auditor interno y los equipos de tecnología ya no deberían ignorar.
¿Qué relación existe entre ISO 27001 y la inteligencia artificial?
ISO/IEC 27001 es el estándar internacional de referencia para establecer, implementar, mantener y mejorar un Sistema de Gestión de Seguridad de la Información — SGSI.
Su objetivo no es decirle a una empresa exactamente qué tecnologías puede o no puede utilizar.
Su lógica es diferente:
identificar qué información necesita proteger la organización, entender los riesgos asociados y establecer controles apropiados para tratarlos.
Esto hace que el marco siga siendo relevante incluso cuando aparecen tecnologías nuevas.
La inteligencia artificial generativa es precisamente uno de esos casos.
Una herramienta como ChatGPT puede aumentar enormemente la productividad de un empleado, pero también puede convertirse en un nuevo punto de exposición de información si se utiliza sin políticas, clasificación de datos, controles de acceso, supervisión o capacitación.
Por eso el verdadero debate no debería ser:
“¿Permitimos o prohibimos ChatGPT?”
La pregunta correcta es:
“¿Qué riesgos introduce la IA en nuestro entorno y cómo vamos a gestionarlos?”
¿Usar ChatGPT puede representar un riesgo para ISO 27001?
Sí.
Pero el riesgo no está simplemente en utilizar ChatGPT.
El riesgo depende de cómo se utiliza, qué información se introduce, qué configuración tiene la herramienta y qué controles ha establecido la organización.
Por ejemplo, un empleado podría copiar dentro de una herramienta de IA:
- una base de datos de clientes;
- un contrato confidencial;
- código fuente propietario;
- información financiera no publicada;
- resultados de una auditoría;
- datos personales;
- documentación de seguridad;
- información estratégica de la empresa.
Aunque el objetivo sea completamente legítimo —por ejemplo, pedir un resumen—, la acción puede crear una exposición que antes no existía.
La IA cambia entonces el mapa de riesgos de la organización.
9 riesgos de seguridad que aparecen cuando una empresa empieza a utilizar IA generativa
1. Filtración de información confidencial
Este es probablemente el riesgo más evidente.
Los empleados pueden utilizar herramientas públicas de inteligencia artificial sin entender qué información está permitido introducir.
Un simple prompt puede contener información confidencial.
Por ejemplo:
“Analiza esta lista de clientes y dime cuáles tienen mayor probabilidad de cancelar el servicio.”
Si el usuario adjunta una base de datos real, el problema ya no es solamente la calidad de la respuesta de la IA.
También debemos preguntarnos:
- ¿Qué datos se enviaron?
- ¿A qué proveedor?
- ¿En qué país se procesan?
- ¿Durante cuánto tiempo se conservan?
- ¿Puede el proveedor utilizarlos?
- ¿La organización autorizó esa transferencia?
Por eso la clasificación de información se vuelve fundamental en cualquier política corporativa de IA.
2. Uso de herramientas de IA no autorizadas
Existe un fenómeno cada vez más parecido al conocido Shadow IT.
Podríamos llamarlo Shadow AI.
Ocurre cuando los empleados empiezan a utilizar herramientas de inteligencia artificial sin que tecnología, seguridad o cumplimiento sepan que existen.
Un empleado encuentra una herramienta gratuita para resumir documentos.
Otro instala una extensión de navegador basada en IA.
Otro conecta un asistente con su correo electrónico.
Otro utiliza un generador de código.
Cada herramienta puede implicar nuevos proveedores, integraciones, permisos y flujos de información.
El problema no es únicamente tecnológico.
También es un problema de gobierno y visibilidad.
Una organización difícilmente puede gestionar un riesgo que ni siquiera sabe que existe.
3. Datos personales enviados a modelos de IA
La situación se vuelve todavía más delicada cuando los prompts contienen información personal.
Nombres.
Correos electrónicos.
Números de identificación.
Información laboral.
Datos financieros.
Información médica.
Historial de clientes.
Una política de inteligencia artificial debería establecer claramente qué tipos de información nunca pueden utilizarse en determinados sistemas de IA y bajo qué condiciones pueden procesarse datos personales.
La seguridad de la información y la privacidad empiezan aquí a encontrarse directamente con la IA.
4. Respuestas incorrectas tomadas como hechos
Los modelos generativos pueden producir respuestas convincentes que no necesariamente son correctas.
Esto es especialmente relevante cuando la IA participa en:
- análisis de seguridad;
- interpretación de requisitos;
- generación de procedimientos;
- elaboración de informes;
- revisión documental;
- análisis de riesgos;
- programación;
- investigación.
La IA puede ayudar a ejecutar estas tareas.
Pero delegar completamente el criterio profesional en el modelo crea un nuevo riesgo.
Por eso el uso de IA debería mantener mecanismos de revisión humana proporcionales a la importancia de la decisión.
5. Generación de código vulnerable
Los asistentes de programación pueden acelerar significativamente el desarrollo de software.
También pueden generar código con errores o vulnerabilidades.
Una organización no debería asumir que código producido por IA es automáticamente seguro.
El código debe seguir pasando por los mismos procesos de:
- revisión;
- pruebas;
- análisis de vulnerabilidades;
- control de cambios;
- aprobación;
- prácticas de desarrollo seguro.
La velocidad que aporta la IA no elimina las responsabilidades del proceso de seguridad.
6. Permisos excesivos en asistentes de IA
La evolución de la inteligencia artificial está llevando los asistentes mucho más allá del simple chatbot.
Ahora pueden conectarse a:
- correo electrónico;
- almacenamiento en la nube;
- CRM;
- repositorios de código;
- documentos corporativos;
- calendarios;
- plataformas internas.
Eso significa que una IA puede llegar a tener acceso a una enorme cantidad de información corporativa.
La pregunta entonces cambia.
Ya no es únicamente:
“¿Qué información introduce el usuario?”
Ahora también debemos preguntar:
“¿A qué información puede acceder automáticamente el sistema?”
Aplicar el principio de mínimo privilegio se vuelve especialmente importante en este escenario.
7. Falta de trazabilidad
Supongamos que una organización utiliza inteligencia artificial para ayudar a elaborar un análisis de riesgos.
Semanas después, durante una auditoría, alguien pregunta:
¿Cómo se llegó a esta conclusión?
Si parte del razonamiento provino de una IA y no existe ningún registro del proceso, reconstruir la decisión puede ser complicado.
Por eso las organizaciones deberían evaluar cuándo resulta necesario conservar:
- prompts;
- versiones;
- fuentes;
- resultados;
- responsables;
- aprobaciones.
La trazabilidad será cada vez más importante a medida que la IA participe en procesos críticos.
8. Dependencia excesiva de proveedores de IA
Muchas organizaciones están construyendo procesos alrededor de servicios externos de inteligencia artificial.
Esto genera otra pregunta relevante desde la perspectiva de gestión del riesgo:
¿qué ocurre si el proveedor cambia sus condiciones, sufre una interrupción, modifica el modelo o deja de prestar el servicio?
La dependencia tecnológica también debe evaluarse.
Especialmente cuando la IA comienza a participar en procesos esenciales para la operación.
9. Empleados que utilizan IA sin formación
Este puede ser el riesgo más subestimado.
Una organización puede contratar las herramientas empresariales más seguras del mercado y aun así tener problemas si sus empleados no saben cómo utilizarlas.
La formación debería explicar, al menos:
- qué herramientas están autorizadas;
- qué información puede introducirse;
- qué información está prohibida;
- cuándo debe verificarse una respuesta;
- cómo identificar información sensible;
- cómo reportar un incidente relacionado con IA.
La seguridad no depende exclusivamente de la tecnología.
Depende también de las personas que la utilizan.
Entonces, ¿qué debería hacer una empresa que utiliza ISO 27001 y quiere adoptar IA?
No existe una única respuesta válida para todas las organizaciones.
ISO/IEC 27001 utiliza precisamente un enfoque basado en riesgo.
Sin embargo, una organización puede comenzar con una estructura como esta.
1. Crear un inventario de herramientas de IA
Identificar qué soluciones ya están utilizando los empleados.
No solamente las herramientas oficialmente contratadas.
También las herramientas gratuitas, extensiones, asistentes y servicios externos.
2. Clasificar la información antes de enviarla a una IA
Los empleados deberían poder distinguir rápidamente entre:
Información pública
Puede utilizarse sin restricciones significativas.
Información interna
Puede requerir herramientas previamente autorizadas.
Información confidencial
Debe tener restricciones específicas.
Información altamente sensible
Podría no estar permitido introducirla en ningún sistema externo de IA.
La clasificación exacta dependerá de cada organización.
3. Evaluar a los proveedores de inteligencia artificial
Antes de adoptar una solución deberían analizarse aspectos como:
- tratamiento de los datos;
- almacenamiento;
- retención;
- ubicación del procesamiento;
- controles de acceso;
- registros;
- integraciones;
- configuración empresarial;
- gestión de incidentes;
- condiciones contractuales.
La IA también forma parte de la cadena de proveedores tecnológicos.
4. Definir una política de uso aceptable de IA
Una buena política no debería limitarse a decir:
“No comparta información confidencial con ChatGPT.”
Debería responder preguntas reales.
¿Qué herramientas están permitidas?
¿Qué información puede utilizarse?
¿Puede generarse código?
¿Puede analizarse información de clientes?
¿Puede utilizarse IA para tomar decisiones?
¿Cuándo es obligatoria la revisión humana?
¿Quién aprueba nuevas herramientas?
Cuanto más clara sea la política, más fácil será aplicarla.
5. Incorporar los riesgos de IA al proceso de gestión de riesgos
La inteligencia artificial no debería existir como un universo separado del SGSI.
Si una herramienta puede afectar información importante para la organización, sus riesgos deberían incorporarse al proceso habitual de evaluación y tratamiento.
6. Capacitar a los equipos
La adopción segura de inteligencia artificial necesita algo más que políticas.
Necesita criterio.
Los profesionales deben aprender a reconocer cuándo una herramienta de IA puede crear riesgos para:
- confidencialidad;
- integridad;
- disponibilidad;
- privacidad;
- propiedad intelectual;
- cumplimiento;
- continuidad operacional.
7. Auditar cómo se utiliza realmente la IA
Una política puede verse perfectamente escrita en un documento.
La auditoría debe descubrir qué sucede en la realidad.
¿Los empleados utilizan herramientas no autorizadas?
¿Existen datos sensibles dentro de prompts?
¿Se revisan las respuestas generadas?
¿Los permisos son apropiados?
¿Existen registros?
¿Los proveedores fueron evaluados?
Estas preguntas empiezan a convertirse en parte natural del trabajo de quienes gestionan y auditan seguridad de la información.
¿ISO 27001 es suficiente para gestionar todos los riesgos de inteligencia artificial?
ISO/IEC 27001 continúa siendo fundamental para gestionar los riesgos relacionados con seguridad de la información.
Sin embargo, la inteligencia artificial introduce desafíos que van más allá de la seguridad.
Por ejemplo:
- transparencia;
- gobernanza de modelos;
- calidad de datos;
- sesgos;
- supervisión humana;
- impactos sobre personas;
- responsabilidad.
Por eso existe también ISO/IEC 42001, el estándar internacional para sistemas de gestión de inteligencia artificial.
De hecho, ISO presenta actualmente ISO/IEC 27001 e ISO/IEC 42001 como estándares complementarios para organizaciones que necesitan gestionar simultáneamente inteligencia artificial y seguridad de la información.
La evolución continúa.
En 2026 ISO también mantiene en desarrollo documentación específica destinada a orientar la gestión de riesgos asociados con sistemas de inteligencia artificial generativa.
La conclusión es clara:
la IA ya dejó de ser únicamente una herramienta de productividad y se está convirtiendo en un nuevo objeto de gestión, seguridad y auditoría.
¿Qué cambia para un auditor de ISO 27001 con la llegada de la IA?
Mucho.
Un auditor ya no debería limitarse a revisar únicamente servidores, accesos, procedimientos y sistemas tradicionales.
También tendrá que entender cómo la IA modifica la forma en que las personas procesan información.
Por ejemplo, podría preguntarse:
- ¿Qué herramientas de IA utiliza la organización?
- ¿Quién las autorizó?
- ¿Qué datos pueden procesar?
- ¿Cómo fueron evaluados sus proveedores?
- ¿Qué controles existen para prevenir fugas?
- ¿Cómo se supervisan sus permisos?
- ¿Existe capacitación?
- ¿Cómo se verifican los resultados producidos por IA?
- ¿Se han incorporado estos escenarios al análisis de riesgos?
Esto no significa reemplazar los fundamentos de ISO 27001.
Significa aprender a aplicar esos fundamentos a una nueva realidad tecnológica.
ISO 27001 no cambia porque exista la IA. Cambia la forma en que debemos aplicarla.
Ese es probablemente el punto más importante.
Las organizaciones continúan necesitando proteger la confidencialidad, integridad y disponibilidad de su información.
Lo que cambia son las herramientas, los flujos de datos y las amenazas.
Durante años el desafío fue proteger servidores, computadores, redes y aplicaciones.
Ahora un empleado puede enviar información corporativa a un sistema externo simplemente escribiendo un prompt.
La inteligencia artificial no elimina los principios de seguridad de la información.
Hace todavía más importante saber aplicarlos.
Profesionales preparados para una nueva realidad
En Certidemy partimos de una idea sencilla:
la inteligencia artificial no debería reemplazar las disciplinas profesionales que ya existen. Debe incorporarse a ellas.
Un auditor sigue necesitando comprender auditoría.
Un profesional de seguridad sigue necesitando comprender gestión de riesgos.
Un responsable de un SGSI sigue necesitando comprender ISO/IEC 27001.
Pero ahora también necesita entender cómo la inteligencia artificial modifica la forma en que esas responsabilidades se ejercen.
Por eso desarrollamos esquemas de certificación que preservan los fundamentos de las disciplinas profesionales e incorporan las nuevas competencias que exige el trabajo aumentado por inteligencia artificial.
Porque el futuro de la seguridad de la información no será elegir entre ISO 27001 o IA.
Será saber aplicar correctamente ISO 27001 en organizaciones que ya utilizan IA.
Preguntas frecuentes sobre ISO 27001 e inteligencia artificial
¿ISO 27001 prohíbe utilizar ChatGPT?
No. ISO/IEC 27001 no establece una prohibición general sobre herramientas como ChatGPT. La organización debe evaluar los riesgos asociados con su utilización y aplicar los controles apropiados según su contexto.
¿Se puede introducir información de una empresa en ChatGPT?
Depende de la clasificación de la información, de la herramienta utilizada, de su configuración y de las políticas de la organización. La información confidencial o sensible no debería enviarse automáticamente a herramientas externas sin una evaluación previa.
¿Una empresa certificada en ISO 27001 puede utilizar inteligencia artificial?
Sí. La utilización de inteligencia artificial no es incompatible con un SGSI. Lo importante es que los riesgos derivados de esas tecnologías sean identificados, evaluados y tratados adecuadamente.
¿Qué debe revisar un auditor de ISO 27001 sobre inteligencia artificial?
Entre otros aspectos, debería analizar las herramientas utilizadas, los datos procesados, los proveedores, los permisos, las políticas internas, la formación de usuarios, la trazabilidad y la incorporación de riesgos de IA al SGSI.
¿Cuál es la diferencia entre ISO 27001 e ISO 42001?
ISO/IEC 27001 se enfoca en la gestión de la seguridad de la información. ISO/IEC 42001 establece requisitos para un sistema de gestión de inteligencia artificial. Pueden utilizarse de manera complementaria.
¿La inteligencia artificial reemplazará a los auditores de ISO 27001?
La IA puede automatizar tareas como análisis documental, búsqueda de evidencias o preparación de información, pero la evaluación profesional, el contexto, el juicio de auditoría y la responsabilidad siguen requiriendo intervención humana. El rol probablemente evolucionará hacia una auditoría cada vez más aumentada por IA.
ISO 27001 and Artificial Intelligence: How to Use ChatGPT and Copilot Without Putting Your Company’s Information at Risk
Generative artificial intelligence is already part of the daily work of thousands of organizations.
ChatGPT, Microsoft Copilot, Gemini, Claude, and other tools can help analyze documents, draft reports, write code, summarize meetings, review contracts, and accelerate research.
The problem begins when, in order to get an answer, users start entering information that belongs to the organization into these tools.
Customer data.
Source code.
Contracts.
Financial reports.
Internal processes.
Credentials.
Employee information.
Confidential documents.
And an increasingly important question emerges:
How does the use of artificial intelligence fit within an Information Security Management System based on ISO/IEC 27001?
The short answer is simple:
ISO/IEC 27001 does not prohibit the use of artificial intelligence. It requires organizations to identify, assess, and appropriately treat risks that could affect the confidentiality, integrity, and availability of information.
And when an organization starts using generative AI, new scenarios emerge that information security managers, internal auditors, and technology teams can no longer afford to ignore.
What Is the Relationship Between ISO 27001 and Artificial Intelligence?
ISO/IEC 27001 is the international standard for establishing, implementing, maintaining, and continually improving an Information Security Management System — ISMS.
Its purpose is not to tell an organization exactly which technologies it can or cannot use.
Its logic is different:
Identify what information the organization needs to protect, understand the associated risks, and establish appropriate controls to address them.
This makes the framework relevant even as new technologies emerge.
Generative artificial intelligence is precisely one of those cases.
A tool such as ChatGPT can significantly increase employee productivity, but it can also become a new point of information exposure if it is used without policies, data classification, access controls, oversight, or training.
That is why the real discussion should not be:
“Should we allow or ban ChatGPT?”
The right question is:
“What risks does AI introduce into our environment, and how are we going to manage them?”
Can Using ChatGPT Represent a Risk Under ISO 27001?
Yes.
But the risk does not come simply from using ChatGPT.
It depends on how it is used, what information is entered, how the tool is configured, and what controls the organization has established.
For example, an employee might paste into an AI tool:
a customer database;
a confidential contract;
proprietary source code;
unpublished financial information;
audit results;
personal data;
security documentation;
strategic company information.
Even if the purpose is completely legitimate — for example, asking for a summary — the action may create an exposure that did not previously exist.
AI therefore changes the organization’s risk landscape.
9 Security Risks That Emerge When a Company Starts Using Generative AI
1. Leakage of Confidential Information
This is probably the most obvious risk.
Employees may use public artificial intelligence tools without understanding what information they are allowed to enter.
A single prompt can contain confidential information.
For example:
“Analyze this customer list and tell me which customers are most likely to cancel their service.”
If the user uploads a real customer database, the issue is no longer only the quality of the AI-generated response.
We also need to ask:
What data was sent?
Which provider received it?
In which country is it processed?
How long is it retained?
Can the provider use it?
Did the organization authorize that transfer?
That is why information classification becomes essential in any corporate AI policy.
2. Use of Unauthorized AI Tools
A phenomenon is emerging that is increasingly similar to what we already know as Shadow IT.
We could call it Shadow AI.
It occurs when employees begin using artificial intelligence tools without the knowledge of technology, security, or compliance teams.
One employee finds a free tool to summarize documents.
Another installs an AI-powered browser extension.
Another connects an assistant to their email.
Another uses a code-generation tool.
Each tool may introduce new vendors, integrations, permissions, and information flows.
The issue is not only technological.
It is also a matter of governance and visibility.
An organization cannot effectively manage a risk it does not even know exists.
3. Personal Data Sent to AI Models
The situation becomes even more sensitive when prompts contain personal information.
Names.
Email addresses.
Identification numbers.
Employment information.
Financial data.
Health information.
Customer histories.
An artificial intelligence policy should clearly establish which types of information must never be entered into certain AI systems and under what conditions personal data may be processed.
This is where information security, privacy, and AI begin to intersect directly.
4. Incorrect Answers Treated as Facts
Generative models can produce highly convincing answers that are not necessarily correct.
This is especially relevant when AI is involved in:
security analysis;
interpretation of requirements;
procedure development;
report preparation;
document review;
risk analysis;
software development;
research.
AI can help perform these tasks.
But fully delegating professional judgment to a model creates a new risk.
That is why the use of AI should maintain human review mechanisms proportionate to the importance of the decision.
5. Generation of Vulnerable Code
Programming assistants can significantly accelerate software development.
They can also generate code containing errors or vulnerabilities.
An organization should not assume that AI-generated code is automatically secure.
The code should continue to go through the same processes for:
review;
testing;
vulnerability analysis;
change control;
approval;
secure development practices.
The speed provided by AI does not eliminate the responsibilities of the security process.
6. Excessive Permissions in AI Assistants
The evolution of artificial intelligence is taking assistants far beyond the traditional chatbot.
They can now connect to:
email;
cloud storage;
CRM systems;
code repositories;
corporate documents;
calendars;
internal platforms.
This means an AI system may gain access to an enormous amount of corporate information.
The question then changes.
It is no longer only:
“What information is the user entering?”
We also need to ask:
“What information can the system access automatically?”
Applying the principle of least privilege becomes especially important in this scenario.
7. Lack of Traceability
Suppose an organization uses artificial intelligence to help develop a risk analysis.
Weeks later, during an audit, someone asks:
How was this conclusion reached?
If part of the reasoning came from an AI system and no record of the process exists, reconstructing the decision may be difficult.
Organizations should therefore assess when it is necessary to retain:
prompts;
versions;
sources;
outputs;
responsible individuals;
approvals.
Traceability will become increasingly important as AI participates in critical processes.
8. Excessive Dependence on AI Providers
Many organizations are building processes around external artificial intelligence services.
This creates another relevant risk-management question:
What happens if the provider changes its terms, experiences an outage, modifies the model, or discontinues the service?
Technology dependency must also be assessed.
Especially when AI begins to participate in processes that are essential to operations.
9. Employees Using AI Without Training
This may be the most underestimated risk.
An organization may purchase the most secure enterprise AI tools available and still experience problems if employees do not know how to use them properly.
Training should explain, at a minimum:
which tools are authorized;
what information may be entered;
what information is prohibited;
when an answer must be verified;
how to identify sensitive information;
how to report an AI-related incident.
Security does not depend exclusively on technology.
It also depends on the people using it.
So, What Should a Company Using ISO 27001 Do If It Wants to Adopt AI?
There is no single answer that applies to every organization.
ISO/IEC 27001 uses a risk-based approach precisely for this reason.
However, an organization can begin with a structure like the following.
1. Create an Inventory of AI Tools
Identify which solutions employees are already using.
Not only officially approved tools.
Also free tools, extensions, assistants, and external services.
2. Classify Information Before Sending It to an AI System
Employees should be able to quickly distinguish between:
Public information
May be used without significant restrictions.
Internal information
May require previously approved tools.
Confidential information
Should be subject to specific restrictions.
Highly sensitive information
It may not be permitted to enter this information into any external AI system.
The exact classification will depend on each organization.
3. Assess Artificial Intelligence Providers
Before adopting a solution, organizations should analyze aspects such as:
data processing;
storage;
retention;
processing location;
access controls;
logging;
integrations;
enterprise configuration;
incident management;
contractual terms.
AI is also part of the technology supply chain.
4. Define an Acceptable AI Use Policy
A strong policy should go beyond simply stating:
“Do not share confidential information with ChatGPT.”
It should answer practical questions.
Which tools are permitted?
What information may be used?
Can employees generate code?
Can customer information be analyzed?
Can AI be used to make decisions?
When is human review mandatory?
Who approves new tools?
The clearer the policy, the easier it is to apply.
5. Incorporate AI Risks Into the Risk Management Process
Artificial intelligence should not exist as a separate universe outside the ISMS.
If a tool can affect information that is important to the organization, its risks should be incorporated into the organization’s regular risk assessment and treatment process.
6. Train Teams
Safe adoption of artificial intelligence requires more than policies.
It requires judgment.
Professionals need to learn how to recognize when an AI tool could create risks related to:
confidentiality;
integrity;
availability;
privacy;
intellectual property;
compliance;
operational continuity.
7. Audit How AI Is Actually Being Used
A policy may look perfect on paper.
An audit needs to discover what is happening in practice.
Are employees using unauthorized tools?
Is sensitive data being entered into prompts?
Are AI-generated outputs being reviewed?
Are permissions appropriate?
Are records available?
Have providers been assessed?
These questions are becoming a natural part of the work performed by professionals who manage and audit information security.
Is ISO 27001 Enough to Manage All Artificial Intelligence Risks?
ISO/IEC 27001 remains fundamental for managing risks related to information security.
However, artificial intelligence introduces challenges that go beyond security.
For example:
transparency;
model governance;
data quality;
bias;
human oversight;
impacts on individuals;
accountability.
That is why ISO/IEC 42001, the international standard for artificial intelligence management systems, also exists.
ISO currently presents ISO/IEC 27001 and ISO/IEC 42001 as complementary standards for organizations that need to manage artificial intelligence and information security simultaneously.
The evolution continues.
In 2026, ISO is also continuing to develop specific guidance aimed at supporting the management of risks associated with generative artificial intelligence systems.
The conclusion is clear:
AI is no longer simply a productivity tool. It is becoming a new area of management, security, and audit.
What Changes for an ISO 27001 Auditor With the Arrival of AI?
A lot.
An auditor should no longer limit their work to reviewing servers, access controls, procedures, and traditional systems.
They will also need to understand how AI changes the way people process information.
For example, they may ask:
Which AI tools does the organization use?
Who authorized them?
What data can they process?
How were their providers assessed?
What controls exist to prevent information leakage?
How are their permissions monitored?
Is training provided?
How are AI-generated outputs verified?
Have these scenarios been incorporated into the risk assessment?
This does not mean replacing the fundamentals of ISO 27001.
It means learning how to apply those fundamentals to a new technological reality.
ISO 27001 Does Not Change Because AI Exists. The Way We Apply It Does.
That is probably the most important point.
Organizations still need to protect the confidentiality, integrity, and availability of their information.
What changes are the tools, data flows, and threats.
For years, the challenge was protecting servers, computers, networks, and applications.
Now an employee can send corporate information to an external system simply by typing a prompt.
Artificial intelligence does not eliminate the principles of information security.
It makes knowing how to apply them even more important.
Professionals Prepared for a New Reality
At Certidemy, we start from a simple idea:
Artificial intelligence should not replace established professional disciplines. It should be integrated into them.
An auditor still needs to understand auditing.
A security professional still needs to understand risk management.
An ISMS manager still needs to understand ISO/IEC 27001.
But now they also need to understand how artificial intelligence changes the way those responsibilities are performed.
That is why we develop certification schemes that preserve the foundations of professional disciplines while incorporating the new competencies required by AI-augmented work.
Because the future of information security will not be about choosing between ISO 27001 or AI.
It will be about knowing how to correctly apply ISO 27001 in organizations that already use AI.
Frequently Asked Questions About ISO 27001 and Artificial Intelligence
Does ISO 27001 Prohibit the Use of ChatGPT?
No. ISO/IEC 27001 does not establish a general prohibition on tools such as ChatGPT. The organization must assess the risks associated with their use and apply appropriate controls based on its context.
Can Company Information Be Entered Into ChatGPT?
It depends on the classification of the information, the tool being used, its configuration, and the organization’s policies. Confidential or sensitive information should not automatically be sent to external tools without prior assessment.
Can an ISO 27001-Certified Company Use Artificial Intelligence?
Yes. The use of artificial intelligence is not incompatible with an ISMS. What matters is that the risks arising from these technologies are appropriately identified, assessed, and treated.
What Should an ISO 27001 Auditor Review Regarding Artificial Intelligence?
Among other areas, the auditor should examine the tools being used, the data being processed, providers, permissions, internal policies, user training, traceability, and the incorporation of AI risks into the ISMS.
What Is the Difference Between ISO 27001 and ISO 42001?
ISO/IEC 27001 focuses on information security management. ISO/IEC 42001 establishes requirements for an artificial intelligence management system. They can be used together.
Will Artificial Intelligence Replace ISO 27001 Auditors?
AI can automate tasks such as document analysis, evidence searches, or information preparation, but professional evaluation, context, audit judgment, and accountability still require human involvement. The role will likely evolve toward auditing that is increasingly augmented by AI.
ISO 27001 e inteligência artificial: como usar ChatGPT e Copilot sem colocar as informações da sua empresa em risco
A inteligência artificial generativa já faz parte do trabalho diário de milhares de organizações.
ChatGPT, Microsoft Copilot, Gemini, Claude e outras ferramentas podem ajudar a analisar documentos, redigir relatórios, escrever código, resumir reuniões, revisar contratos ou acelerar pesquisas.
O problema surge quando, para obter uma resposta, os usuários começam a inserir nessas ferramentas informações que pertencem à organização.
Dados de clientes.
Código-fonte.
Contratos.
Relatórios financeiros.
Processos internos.
Credenciais.
Informações de colaboradores.
Documentos confidenciais.
E surge uma pergunta cada vez mais importante:
Como o uso da inteligência artificial se encaixa em um Sistema de Gestão de Segurança da Informação baseado na ISO/IEC 27001?
A resposta curta é simples:
A ISO/IEC 27001 não proíbe o uso de inteligência artificial. Ela exige que a organização identifique, avalie e trate adequadamente os riscos que possam afetar a confidencialidade, a integridade e a disponibilidade das informações.
E quando uma organização começa a utilizar IA generativa, surgem novos cenários que os responsáveis pela segurança, os auditores internos e as equipes de tecnologia já não deveriam ignorar.
Qual é a relação entre ISO 27001 e inteligência artificial?
A ISO/IEC 27001 é o padrão internacional de referência para estabelecer, implementar, manter e melhorar continuamente um Sistema de Gestão de Segurança da Informação — SGSI.
Seu objetivo não é dizer a uma empresa exatamente quais tecnologias ela pode ou não utilizar.
Sua lógica é diferente:
Identificar quais informações a organização precisa proteger, compreender os riscos associados e estabelecer controles adequados para tratá-los.
Isso faz com que a norma continue relevante mesmo com o surgimento de novas tecnologias.
A inteligência artificial generativa é justamente um desses casos.
Uma ferramenta como o ChatGPT pode aumentar significativamente a produtividade de um colaborador, mas também pode se transformar em um novo ponto de exposição de informações quando utilizada sem políticas, classificação de dados, controles de acesso, supervisão ou capacitação.
Por isso, o verdadeiro debate não deveria ser:
“Devemos permitir ou proibir o ChatGPT?”
A pergunta correta é:
“Quais riscos a IA introduz em nosso ambiente e como vamos gerenciá-los?”
Usar ChatGPT pode representar um risco para a ISO 27001?
Sim.
Mas o risco não está simplesmente no uso do ChatGPT.
Ele depende de como a ferramenta é utilizada, quais informações são inseridas, como ela está configurada e quais controles a organização estabeleceu.
Por exemplo, um colaborador pode copiar para uma ferramenta de IA:
uma base de dados de clientes;
um contrato confidencial;
código-fonte proprietário;
informações financeiras ainda não divulgadas;
resultados de uma auditoria;
dados pessoais;
documentação de segurança;
informações estratégicas da empresa.
Mesmo que o objetivo seja completamente legítimo — por exemplo, solicitar um resumo —, essa ação pode criar uma exposição que antes não existia.
A IA passa, portanto, a modificar o mapa de riscos da organização.
9 riscos de segurança que surgem quando uma empresa começa a utilizar IA generativa
1. Vazamento de informações confidenciais
Este provavelmente é o risco mais evidente.
Os colaboradores podem utilizar ferramentas públicas de inteligência artificial sem compreender quais informações podem ou não inserir.
Um único prompt pode conter informações confidenciais.
Por exemplo:
“Analise esta lista de clientes e diga quais têm maior probabilidade de cancelar o serviço.”
Se o usuário anexar uma base de dados real, o problema deixa de ser apenas a qualidade da resposta produzida pela IA.
Também precisamos perguntar:
Quais dados foram enviados?
Para qual fornecedor?
Em qual país eles são processados?
Por quanto tempo são armazenados?
O fornecedor pode utilizá-los?
A organização autorizou essa transferência?
Por isso, a classificação da informação se torna fundamental em qualquer política corporativa de IA.
2. Uso de ferramentas de IA não autorizadas
Existe um fenômeno cada vez mais semelhante ao conhecido Shadow IT.
Podemos chamá-lo de Shadow AI.
Ele ocorre quando os colaboradores começam a utilizar ferramentas de inteligência artificial sem que as áreas de tecnologia, segurança ou compliance saibam que elas existem.
Um colaborador encontra uma ferramenta gratuita para resumir documentos.
Outro instala uma extensão de navegador baseada em IA.
Outro conecta um assistente ao seu e-mail.
Outro utiliza um gerador de código.
Cada ferramenta pode introduzir novos fornecedores, integrações, permissões e fluxos de informação.
O problema não é apenas tecnológico.
Também é uma questão de governança e visibilidade.
Uma organização dificilmente consegue gerenciar um risco cuja existência desconhece.
3. Dados pessoais enviados para modelos de IA
A situação se torna ainda mais delicada quando os prompts contêm informações pessoais.
Nomes.
Endereços de e-mail.
Números de identificação.
Informações profissionais.
Dados financeiros.
Informações médicas.
Histórico de clientes.
Uma política de inteligência artificial deveria estabelecer claramente quais tipos de informação nunca podem ser inseridos em determinados sistemas de IA e em quais condições dados pessoais podem ser processados.
É aqui que segurança da informação, privacidade e IA começam a se encontrar diretamente.
4. Respostas incorretas tratadas como fatos
Modelos generativos podem produzir respostas convincentes que não necessariamente estão corretas.
Isso é especialmente relevante quando a IA participa de:
análises de segurança;
interpretação de requisitos;
elaboração de procedimentos;
preparação de relatórios;
revisão documental;
análise de riscos;
programação;
pesquisa.
A IA pode ajudar na execução dessas atividades.
Mas delegar completamente o julgamento profissional ao modelo cria um novo risco.
Por isso, o uso de IA deveria manter mecanismos de revisão humana proporcionais à importância da decisão.
5. Geração de código vulnerável
Assistentes de programação podem acelerar significativamente o desenvolvimento de software.
Também podem gerar código com erros ou vulnerabilidades.
Uma organização não deveria assumir que código produzido por IA é automaticamente seguro.
O código deve continuar passando pelos mesmos processos de:
revisão;
testes;
análise de vulnerabilidades;
controle de mudanças;
aprovação;
práticas de desenvolvimento seguro.
A velocidade proporcionada pela IA não elimina as responsabilidades do processo de segurança.
6. Permissões excessivas em assistentes de IA
A evolução da inteligência artificial está levando os assistentes muito além de um simples chatbot.
Hoje eles podem se conectar a:
e-mail;
armazenamento em nuvem;
CRM;
repositórios de código;
documentos corporativos;
calendários;
plataformas internas.
Isso significa que uma IA pode ter acesso a uma enorme quantidade de informações corporativas.
A pergunta então muda.
Já não é apenas:
“Quais informações o usuário está inserindo?”
Agora também precisamos perguntar:
“A quais informações o sistema pode acessar automaticamente?”
Aplicar o princípio do menor privilégio se torna especialmente importante nesse cenário.
7. Falta de rastreabilidade
Imagine que uma organização utilize inteligência artificial para auxiliar na elaboração de uma análise de riscos.
Semanas depois, durante uma auditoria, alguém pergunta:
Como essa conclusão foi alcançada?
Se parte do raciocínio veio de uma IA e não existe nenhum registro do processo, reconstruir a decisão pode ser difícil.
Por isso, as organizações deveriam avaliar quando é necessário manter:
prompts;
versões;
fontes;
resultados;
responsáveis;
aprovações.
A rastreabilidade será cada vez mais importante à medida que a IA passar a participar de processos críticos.
8. Dependência excessiva de fornecedores de IA
Muitas organizações estão construindo processos em torno de serviços externos de inteligência artificial.
Isso gera outra pergunta relevante do ponto de vista da gestão de riscos:
O que acontece se o fornecedor alterar suas condições, sofrer uma interrupção, modificar o modelo ou deixar de oferecer o serviço?
A dependência tecnológica também precisa ser avaliada.
Especialmente quando a IA começa a participar de processos essenciais para a operação.
9. Colaboradores utilizando IA sem treinamento
Este pode ser o risco mais subestimado.
Uma organização pode contratar as ferramentas corporativas mais seguras do mercado e ainda assim enfrentar problemas se seus colaboradores não souberem utilizá-las adequadamente.
A capacitação deveria explicar, no mínimo:
quais ferramentas estão autorizadas;
quais informações podem ser inseridas;
quais informações são proibidas;
quando uma resposta precisa ser verificada;
como identificar informações sensíveis;
como reportar um incidente relacionado à IA.
A segurança não depende exclusivamente da tecnologia.
Ela também depende das pessoas que a utilizam.
Então, o que uma empresa que utiliza ISO 27001 e deseja adotar IA deveria fazer?
Não existe uma única resposta válida para todas as organizações.
A ISO/IEC 27001 utiliza justamente uma abordagem baseada em riscos.
No entanto, uma organização pode começar com uma estrutura como esta.
1. Criar um inventário das ferramentas de IA
Identificar quais soluções os colaboradores já estão utilizando.
Não apenas as ferramentas contratadas oficialmente.
Também ferramentas gratuitas, extensões, assistentes e serviços externos.
2. Classificar as informações antes de enviá-las para uma IA
Os colaboradores deveriam conseguir distinguir rapidamente entre:
Informações públicas
Podem ser utilizadas sem restrições significativas.
Informações internas
Podem exigir ferramentas previamente autorizadas.
Informações confidenciais
Devem estar sujeitas a restrições específicas.
Informações altamente sensíveis
Pode não ser permitido inseri-las em nenhum sistema externo de IA.
A classificação exata dependerá de cada organização.
3. Avaliar os fornecedores de inteligência artificial
Antes de adotar uma solução, deveriam ser analisados aspectos como:
tratamento dos dados;
armazenamento;
retenção;
localização do processamento;
controles de acesso;
registros;
integrações;
configurações corporativas;
gestão de incidentes;
condições contratuais.
A IA também faz parte da cadeia de fornecedores tecnológicos.
4. Definir uma política de uso aceitável de IA
Uma boa política não deveria se limitar a dizer:
“Não compartilhe informações confidenciais com o ChatGPT.”
Ela deveria responder a perguntas reais.
Quais ferramentas são permitidas?
Quais informações podem ser utilizadas?
É permitido gerar código?
Informações de clientes podem ser analisadas?
A IA pode ser utilizada para tomar decisões?
Quando a revisão humana é obrigatória?
Quem aprova novas ferramentas?
Quanto mais clara for a política, mais fácil será aplicá-la.
5. Incorporar os riscos de IA ao processo de gestão de riscos
A inteligência artificial não deveria existir como um universo separado do SGSI.
Se uma ferramenta pode afetar informações importantes para a organização, seus riscos deveriam ser incorporados ao processo habitual de avaliação e tratamento de riscos.
6. Capacitar as equipes
A adoção segura da inteligência artificial exige mais do que políticas.
Exige discernimento.
Os profissionais precisam aprender a reconhecer quando uma ferramenta de IA pode criar riscos para:
confidencialidade;
integridade;
disponibilidade;
privacidade;
propriedade intelectual;
compliance;
continuidade operacional.
7. Auditar como a IA realmente é utilizada
Uma política pode parecer perfeita quando está escrita em um documento.
A auditoria precisa descobrir o que realmente acontece na prática.
Os colaboradores utilizam ferramentas não autorizadas?
Existem dados sensíveis dentro dos prompts?
As respostas geradas são revisadas?
As permissões são adequadas?
Existem registros?
Os fornecedores foram avaliados?
Essas perguntas estão se tornando parte natural do trabalho de quem gerencia e audita a segurança da informação.
A ISO 27001 é suficiente para gerenciar todos os riscos de inteligência artificial?
A ISO/IEC 27001 continua sendo fundamental para gerenciar riscos relacionados à segurança da informação.
No entanto, a inteligência artificial introduz desafios que vão além da segurança.
Por exemplo:
transparência;
governança de modelos;
qualidade de dados;
vieses;
supervisão humana;
impactos sobre pessoas;
responsabilidade.
Por isso, existe também a ISO/IEC 42001, o padrão internacional para sistemas de gestão de inteligência artificial.
Atualmente, a ISO apresenta a ISO/IEC 27001 e a ISO/IEC 42001 como padrões complementares para organizações que precisam gerenciar simultaneamente inteligência artificial e segurança da informação.
A evolução continua.
Em 2026, a ISO também mantém em desenvolvimento orientações específicas voltadas à gestão de riscos associados a sistemas de inteligência artificial generativa.
A conclusão é clara:
A IA deixou de ser apenas uma ferramenta de produtividade e está se tornando um novo objeto de gestão, segurança e auditoria.
O que muda para um auditor de ISO 27001 com a chegada da IA?
Muita coisa.
Um auditor já não deveria se limitar a revisar apenas servidores, acessos, procedimentos e sistemas tradicionais.
Ele também precisará compreender como a IA modifica a maneira como as pessoas processam informações.
Por exemplo, poderá perguntar:
Quais ferramentas de IA a organização utiliza?
Quem as autorizou?
Quais dados elas podem processar?
Como seus fornecedores foram avaliados?
Quais controles existem para prevenir vazamentos?
Como suas permissões são supervisionadas?
Existe capacitação?
Como os resultados produzidos por IA são verificados?
Esses cenários foram incorporados à análise de riscos?
Isso não significa substituir os fundamentos da ISO 27001.
Significa aprender a aplicar esses fundamentos a uma nova realidade tecnológica.
A ISO 27001 não muda porque a IA existe. O que muda é a forma como precisamos aplicá-la.
Esse talvez seja o ponto mais importante.
As organizações continuam precisando proteger a confidencialidade, a integridade e a disponibilidade de suas informações.
O que muda são as ferramentas, os fluxos de dados e as ameaças.
Durante anos, o desafio foi proteger servidores, computadores, redes e aplicações.
Agora, um colaborador pode enviar informações corporativas para um sistema externo simplesmente escrevendo um prompt.
A inteligência artificial não elimina os princípios da segurança da informação.
Ela torna ainda mais importante saber aplicá-los corretamente.
Profissionais preparados para uma nova realidade
Na Certidemy, partimos de uma ideia simples:
A inteligência artificial não deveria substituir as disciplinas profissionais que já existem. Ela deve ser incorporada a elas.
Um auditor continua precisando compreender auditoria.
Um profissional de segurança continua precisando compreender gestão de riscos.
Um responsável por um SGSI continua precisando compreender a ISO/IEC 27001.
Mas agora também precisa entender como a inteligência artificial modifica a forma como essas responsabilidades são exercidas.
Por isso, desenvolvemos esquemas de certificação que preservam os fundamentos das disciplinas profissionais e incorporam as novas competências exigidas pelo trabalho potencializado pela inteligência artificial.
Porque o futuro da segurança da informação não será escolher entre ISO 27001 ou IA.
Será saber aplicar corretamente a ISO 27001 em organizações que já utilizam IA.
Perguntas frequentes sobre ISO 27001 e inteligência artificial
A ISO 27001 proíbe o uso do ChatGPT?
Não. A ISO/IEC 27001 não estabelece uma proibição geral sobre ferramentas como o ChatGPT. A organização deve avaliar os riscos associados ao seu uso e aplicar os controles adequados de acordo com seu contexto.
É possível inserir informações de uma empresa no ChatGPT?
Depende da classificação da informação, da ferramenta utilizada, de sua configuração e das políticas da organização. Informações confidenciais ou sensíveis não deveriam ser enviadas automaticamente para ferramentas externas sem uma avaliação prévia.
Uma empresa certificada na ISO 27001 pode utilizar inteligência artificial?
Sim. A utilização de inteligência artificial não é incompatível com um SGSI. O importante é que os riscos decorrentes dessas tecnologias sejam devidamente identificados, avaliados e tratados.
O que um auditor de ISO 27001 deve revisar em relação à inteligência artificial?
Entre outros aspectos, deve analisar as ferramentas utilizadas, os dados processados, os fornecedores, as permissões, as políticas internas, a capacitação dos usuários, a rastreabilidade e a incorporação dos riscos de IA ao SGSI.
Qual é a diferença entre ISO 27001 e ISO 42001?
A ISO/IEC 27001 concentra-se na gestão da segurança da informação. A ISO/IEC 42001 estabelece requisitos para um sistema de gestão de inteligência artificial. As duas podem ser utilizadas de forma complementar.
A inteligência artificial substituirá os auditores de ISO 27001?
A IA pode automatizar tarefas como análise documental, busca de evidências ou preparação de informações, mas a avaliação profissional, o contexto, o julgamento de auditoria e a responsabilidade continuam exigindo intervenção humana. O papel provavelmente evoluirá para uma auditoria cada vez mais potencializada pela IA.
