Can Machines Discriminate?/ ?Pueden Discriminar las Maquinas?

• Published in: Revista de Direito, Estado e Telecomunicacoes Vol. 16; no. 1; p. 221
• Main Authors: Urbano, Maria Karolina, Munar, Lainiver Mendoza
• Format: Journal Article
• Language: Portuguese
• Published: Grupo de Estudos em Direito das Telecomunicacoes (GETEL) 01.05.2024
• Subjects: Artificial intelligence; Discrimination; Human rights; Neurophysiology; Philosophy; Social norms
• ISSN: 1984-9729
• DOI: 10.26512/lstr.v16i1.46871

[Proposal] To take a first step towards the demand for responsible technological development, since like any tool created by the human being, it can be used for the benefit of humanity or against it. [Methodology I Approach/Design] In the initial stage of the research project titled "Discrimination and Ethics of Artificial Intelligence," a comprehensive review of literature and documents in the field of philosophy of mind and cognitive science during the latter half of the 20th century was conducted. This review aimed to establish connections with contemporary advancements in the ethics of artificial intelligence, particularly following the establishment of ethical principles by the European Community in 2019. The disciplines of philosophy of mind and cognitive science, being closely linked to neurobiology and artificial intelligence, were pioneers in recognizing the challenges associated with the development of this technology. However, at that time, artificial intelligence applications had not permeated all aspects of human activities as extensively as they do today. Consequently, the problems surrounding this technology were more speculative rather than urgent concerns. The rapid integration of artificial intelligence into various domains has presented society, governments, and companies with pressing issues that demand immediate attention. Given the recent nature of these advancements, adequate preparedness to address the associated challenges remains lacking. While ethics may lie outside the realm of scientific inquiry as it does not fall within its scope or methods, science plays a crucial role in the subject matter of ethics, as the tools created by humans can be employed for both harm and societal well-being. Once these tools begin to generate adverse consequences for individuals and society, ethical and legal considerations become paramount. The resurgence of interest in the philosophy of mind stems from the realization that ethical dilemmas associated with artificial intelligence are rooted in long-standing ethical problems. We continue to seek improved responses to such dilemmas and grapple with questions that arise from indeterminate concepts like equality. It is important to recognize that discrimination, by definition, goes against the principle of equality, and there are instances where machines contribute to discriminatory actions or situations. It is worth noting that addressing the questions posed in this article, within the context of a research project focused on discrimination, necessitates an interdisciplinary analysis. This further justifies the reliance on the disciplines of philosophy of mind and cognitive science, which approach the challenges of artificial intelligence from scientific, technological, linguistic, and philosophical perspectives, extending their reach into the legal domain as well. [Purpose] This article aims to emphasize the significance of conducting responsible technological advancements, particularly in the realm of artificial intelligence. It underscores the necessity for AI-based technologies to be designed with careful consideration of ethical and moral principles, ensuring that their impact aligns with societal norms and upholds the recognition of human rights. [Practical Implications] As Artificial Intelligence continues to permeate numerous facets of society, it is crucial to acknowledge the inherent risks associated with its usage, particularly in relation to discrimination. Consequently, it becomes imperative to implement measures that effectively mitigate these risks and reduce the potential for discriminatory outcomes. Keywords: Artificial intelligence. Discrimination. Information technologies. Ethical framework. [Propuesta] La importancia de este documento radica en que constituye un primer paso hacia la exigencia de un desarrollo tecnologico responsable, pues como toda herramienta creada por el ser humano, puede ser usada en beneficio de la humanidad o en contra de ella. [Metodologia/Enfoque/Diseno] En el desarrollo de este primer avance del proyecto de investigacion "Discriminacion y etica de la inteligencia artificial" (1), se hizo una revision bibliografica y documental de la filosofia de la mente y la ciencia cognitiva de la segunda mitad del siglo XX, para conectar con los avances que en materia de la etica de la inteligencia artificial se tienen hoy, especialmente a partir de la creacion de los principios eticos establecidos en 2019 por la Comunidad Europea. Como ya se menciono, la filosofia de la mente y la ciencia cognitiva, en tanto ramas interdisciplinarias y directamente relacionadas con la neurobiologia y la inteligencia artificial, fueron pioneras en la visualizacion de los problemas alrededor del desarrollo de este tipo de tecnologia. Pero en ese entonces, los productos con inteligencia artificial no estaban incorporados a todas las actividades del ser humano como vemos ahora, en donde los problemas no son especulaciones, sino aspectos urgentes a resolver, dado que por ser tan recientes ni los gobiernos, ni las empresas, ni la sociedad estan preparados para atenderlos con suficiencia. Desconocemos gran parte del impacto que este tipo de tecnologia pueda provocar en el mundo y en la sociedad. Si bien la etica puede ser un tema ajeno al mundo de la ciencia, porque no hace parte de su objeto de estudio y mucho menos de su metodo, el uso de la ciencia si esta en el objeto de estudio de la etica, puesto que las herramientas creadas por el hombre pueden ser usadas para hacer el dano o para procurar bienestar en la sociedad. Una vez la herramienta empieza a generar consecuencias negativas en los seres humanos y la sociedad, el tema etico y juridico se ponen a la orden del dia. La necesidad de retomar la filosofia de la mente se debe a que, tal como menciona Juan Ignacio del Valle (2019), los problemas de la inteligencia artificial heredan viejos problemas eticos, para los cuales se siguen buscando mejores respuestas, como es el caso de los dilemas, pero tambien de aquellas cuestiones que parten de conceptos indeterminados como el de la igualdad. Recordemos que la discriminacion es por definicion ausencia del principio de igualdad y existen maquinas que provocan acciones o situaciones discriminatorias. Es importante anotar, que las preguntas que este articulo intenta resolver como parte de un proyecto investigativo alrededor del problema de la discriminacion, exige un analisis interdisciplinario, una razon mas para apoyarnos en la filosofia de la mente y la ciencia cognitiva como disciplinas que abordan el problema de la inteligencia artificial desde la vision cientifica, tecnologica, linguistica, filosofica, que hacemos extensiva al ambito juridico. [Finalidad] Este articulo busca resaltar la importancia de llevar a cabo desarrollos tecnologicos responsables, pues las tecnologias que cuentan con inteligencia artificial deben ser concebidas para que sus efectos se materialicen en un marco etico y moral, teniendo en cuenta el contexto de las sociedades y el reconocimiento de los derechos humanos. [Implicaciones Practicas] La Inteligencia Artificial, cada vez, permea diversos aspectos de las sociedades, sin embargo, se hace necesario los riesgos que implica su utilizacion en materia de discriminacion, para implementar medidas que reduzcan este riesgo. Palabras Clave: Inteligencia Artificial. Discriminacion. Tecnologias de la Informacion. Marco Etico.