Análise de Impacto Ético
A análise de impacto ético é um processo que visa identificar, avaliar e mitigar possíveis impactos éticos adversos que um projeto, produto ou serviço de tecnologia possa ter sobre as pessoas, comunidades ou sociedade em geral. Essa análise é importante porque a tecnologia pode influenciar significativamente a vida das pessoas e o funcionamento da sociedade, e é crucial garantir que os projetos de tecnologia sejam desenvolvidos e implementados de maneira responsável, ética e sustentável, beneficiando a sociedade como um todo.
Privacidade e proteção de dados
Privacidade e proteção de dados A privacidade e a proteção de dados desempenham um papel fundamental em soluções de tecnologia, pois são essenciais para garantir a confiança dos usuários nos serviços e empresas. Além disso, a conformidade com as leis de proteção de dados é crucial para evitar multas e penalidades legais. A proteção dos dados pessoais também impede abusos, como roubo de identidade e fraudes, e ajuda a garantir a segurança da informação, prevenindo violações e vazamentos de dados. Respeitar a privacidade dos usuários é fundamental para garantir seus direitos individuais e promover um ambiente digital mais seguro e confiável.
Na solução proposta, são utilizados dados de natureza sensível, uma vez que há contato com informações pessoais dos enfermeiros e dados relacionados ao armazenamento e organização de medicamentos do hospital. Portanto, é crucial que a coleta e armazenamento dos dados sejam feitos de forma segura, visando assegurar a confiança dos usuários. Logo, a implementação de Avaliações de Impacto à Proteção de Dados (DPIAs) é essencial para identificar e mitigar riscos à privacidade.
Um exemplo que ilustre a importância de assegurar a segurança dos dados foi o ocorrido em 2021, quando houve um sequestro de dados do Ministério da Saúde por meio de ransomware, sendo exigido um resgate para devolvê-los.
Mitigação de Riscos:
-
Criptografia de Dados: Utilizar técnicas de criptografia para proteger os dados sensíveis durante a coleta, transmissão e armazenamento. Isso garante que mesmo que os dados sejam interceptados, não possam ser acessados sem a chave de criptografia adequada.
-
Controles de Acesso: Implementar controles de acesso rigorosos para garantir que apenas usuários autorizados tenham acesso aos dados sensíveis. Isso pode incluir autenticação de dois fatores, restrição de acesso com base em funções e monitoramento de acesso não autorizado.
Equidade e justiça
A equidade e a justiça são fundamentais em soluções de tecnologia, pois garantem acesso igualitário às oportunidades e benefícios proporcionados pela tecnologia, independentemente de características pessoais. Além disso, essas soluções ajudam a reduzir disparidades existentes, capacitam grupos marginalizados, mitigam o viés injusto e constroem confiança na tecnologia, contribuindo para uma sociedade mais inclusiva e justa.
Quando se trata de produtos digitais, é importante considerar que nem todos os públicos têm o mesmo nível de familiaridade com a tecnologia, o que pode resultar em dificuldades ao adotar uma nova abordagem. Mesmo que os usuários estejam familiarizados com a interface e o funcionamento do Pyxis, é essencial realizar ações para garantir que aqueles com menor letramento digital sejam capazes de utilizar a solução de forma independente e sem prejuízos, assegurando a eficiência da inovação do processo.
Mitigação de Riscos:
-
Treinamento da plataforma: Realizar um treinamento que inclua explicações sobre todas as funcionalidades do aplicativo, com demonstrações práticas, pode ser uma maneira eficaz de ensinar a todos os usuários.
-
FAQs: Para dúvidas futuras, disponibilizar um recurso de Perguntas Frequentes (FAQ) integrado à interface, no qual os usuários possam encontrar orientações e esclarecimentos sobre como utilizar a solução. Essa abordagem oferece assistência imediata para resolver problemas.
Transparência e consentimento informado
Transparência e consentimento informado em soluções de tecnologia referem-se à prática de fornecer informações claras e compreensíveis sobre como os dados dos usuários são coletados, usados e compartilhados, e obter o consentimento explícito dos usuários antes de realizar qualquer atividade relacionada aos dados. A transparência envolve tornar as práticas de coleta e uso de dados visíveis e compreensíveis para os usuários, enquanto o consentimento informado significa que os usuários devem ter conhecimento e concordar com essas práticas antes de fornecerem seus dados. Esses princípios são essenciais para garantir a privacidade e a autonomia dos usuários, construir confiança nas soluções de tecnologia e cumprir requisitos legais e éticos relacionados à proteção de dados.
Na aplicação, é crucial obter o consentimento dos enfermeiros, pois suas informações pessoais serão utilizadas em cada operação realizada no aplicativo. Além disso, essas operações serão monitoradas, portanto, é fundamental que fique claro que métricas como tempo de resposta e erros serão registradas.
Para exemplificação, no mês de março, o Zoom, plataforma de comunicação por videochamadas, introduziu recursos baseados em Inteligência Artificial para melhorar sua ferramenta. No entanto, a empresa enfrentou críticas devido à falta de transparência ao utilizar dados pessoais dos usuários, incluindo conversas em chats, áudios e vídeos, para treinar esses novos recursos. Em resposta, o Zoom revisou seus Termos de Serviço para explicar claramente como podem usar as informações online das pessoas. Agora, os usuários precisam decidir se desejam compartilhar seus dados antes de participar de reuniões, sendo que, se optarem por não compartilhar, não terão a alternativa de entrar na chamada.
Mitigação de Riscos:
- Termo de consentimento: Para garantir que os usuários estejam cientes de como seus dados serão utilizados durante o uso da aplicação, é necessário obter seu consentimento por meio de um termo de uso transparente, que explique claramente cada utilização de dados e monitoramento.
Responsabilidade social
Responsabilidade social em soluções de tecnologia refere-se à obrigação que empresas e desenvolvedores têm de agir de forma ética e contribuir positivamente para a sociedade. Isso inclui considerar os impactos sociais, ambientais e econômicos de suas tecnologias, garantir a equidade e a justiça em suas práticas, e buscar ativamente o benefício da comunidade e do meio ambiente. A responsabilidade social é importante em soluções de tecnologia porque ajuda a garantir que as inovações tecnológicas sejam desenvolvidas e utilizadas de maneira responsável, beneficiando a sociedade como um todo e contribuindo para um futuro sustentável e inclusivo.
Na solução proposta, um dos principais objetivos é identificar casos de retirada suspeita de medicamentos, visando localizar enfermeiros que tenham retirado tipos de medicamentos diferentes dos prescritos ou quantidades inadequadas. Essas práticas podem ser injustas para outros pacientes, pois podem resultar na falta do medicamento correto quando necessário. Por exemplo, um enfermeiro pode tentar retirar um medicamento que aparentemente está em estoque no Pyxis, mas na verdade não está, o que pode causar atrasos e prolongar o desconforto do paciente. Essa situação destaca como a ação inadequada de um enfermeiro pode beneficiá-lo temporariamente, mas prejudicar pacientes futuros. Assim, a solução é capaz de aprimorar o atendimento e reduzir fraudes no ambiente hospitalar, contribuindo positivamente para a responsabilidade social.
Um exemplo real desse tipo de situação ocorreu no início de 2024, no Brasil, onde um funcionário de um posto de saúde no Espírito Santo desviou caixas de medicamentos para o tratamento contra o câncer com o objetivo de revendê-las. Esse desvio resultou na falta desses medicamentos no posto de saúde. Um idoso de 63 anos, que dependia desse medicamento como seu único tratamento possível, teve seu tratamento adiado devido a esses desvios.
Mitigação de Riscos:
-
Destaque na requisição realizada antes de uma discrepância: Em casos de discrepâncias entre a quantidade de medicamentos retirados e o estoque registrado no Pyxis, os dados da última retirada serão destacados. Isso facilitará a identificação dos responsáveis pelas diferenças.
-
Métricas das operações: Criação de métricas relacionadas às operações realizadas, o que facilita a análise e a detecção de comportamentos suspeitos, como um tempo de abertura de gaveta excessivamente longo.
Viés e discriminação
Viés em soluções de tecnologia refere-se à tendência de algoritmos, sistemas de inteligência artificial ou outras tecnologias a favorecer ou prejudicar certos grupos ou indivíduos devido a características pessoais, como raça, gênero ou origem étnica, de maneira injusta ou discriminatória. A discriminação, por sua vez, ocorre quando essa tendência resulta em tratamento diferenciado e injusto para determinados grupos. É importante abordar o viés e a discriminação em soluções de tecnologia para garantir a equidade e a justiça, evitando que essas tecnologias perpetuem ou ampliem desigualdades existentes na sociedade. A identificação e mitigação desses problemas são fundamentais para garantir que as tecnologias sejam desenvolvidas e utilizadas de forma ética e responsável, beneficiando a todos de maneira justa e equitativa.
Ao abrir pedidos de urgência, estes serão classificados com um nível de prioridade. É fundamental garantir que essa prioridade não seja influenciada por nenhum viés, como a pressão do enfermeiro para ser atendido mais rapidamente ou preferências do atendente sobre quais pedidos atender primeiro. A prioridade deve ser definida exclusivamente com base na urgência do paciente em receber o medicamento necessário.
Mitigação de Riscos:
- Prioridade na fila: A prioridade na fila de chamados de urgência deve ser determinada exclusivamente com base no medicamento solicitado, sua demanda e a necessidade do paciente para aquele medicamento.