Arquitecturas que manipulan: culpa estructural y tutela reforzada de los vulnerables en el ecosistema digital. A propósito de TikTok y Robinhood

Abstract

Los principios de “no dañar a otro” y de “buena fe”, aplicados en materia de responsabilidad por productos, servicios y bienes digitales, imponen proteger especialmente a los sujetos vulnerables como, por ejemplo, niños y adultos mayores, potenciales víctimas de graves daños, tutela que alcanza tanto intereses individuales (plano de lesiones psicofísicas, pérdida de autonomía, perjuicios económicos, etc.) como colectivos o difusos (distorsión de hábitos sociales, impacto en la salud pública, manipulación de datos masivos, etc.). Sin mengua del aliento de innovaciones tecnológicas, el sistema legal dista de ser riguroso en materia de exigibilidad de adopción de medidas preventivas y cumplimiento de estándares de seguridad, como por ejemplo sucede con: 1) la red social “TikTok” (y otras), cuyos mecanismos de scroll infinito y retroalimentación emocional generan un proceso de absorción progresiva de la atención que puede derivar en trastornos de ansiedad, alteraciones del ritmo circadiano, disminución de la capacidad de concentración y afectación de la autonomía decisional, especialmente los jóvenes; 2) la fintech “Robinhood” (y otras) que al gamificar las inversiones financieras trivializa riesgos sustanciales, con consecuencias como la pérdida de ahorros, el sobreendeudamiento, e incluso –en casos extremos– impactos negativos en la salud mental y social. Se trata de supuestos que tienen un patrón común: la manipulación algorítmica como estrategia empresaria deliberada de captación y ganancia, arquitectura tecnológica que actúa de forma subrepticia, acumulativa y personalizada que transforma al usuario en objeto de diseño comercial. Nos interpela la tensión existente entre las leyes del mercado y las leyes de la Constitución, la convergencia entre economía y derecho: mientras en las primeras sobresale el afanoso propósito de lucro que actúa como motor del crecimiento, las segundas imponen el debido resguardo de los derechos fundamentales. En el presente trabajo enfocaremos un problema importante del derecho de daños escasamente abordado: los fundamentos axiológicos en que se apoya la disciplina cuando los daños derivan del diseño de arquitecturas digitales que inducen comportamientos previsiblemente nocivos.