社交媒体应用程序定期向青少年展示经过算法选择的内容，这些内容通常被描述为“为你”，暗示策划的内容不仅是“为你”，而且是“关于你”——一面反映你所关注的人的重要信号的镜子。是。
所有社交媒体用户都会接触到这些信号，但研究人员了解到，青少年正处于个人身份形成的特别可塑的阶段学者们已经开始证明，技术正在产生一代人塑造效应，不仅体现在它影响文化观、行为和隐私方面，还体现在它可以塑造那些在社交媒体上长大的人的个性。
“为你”信息的盛行引发了一些重要问题，即这些算法对青少年如何看待自己和看待世界的影响，以及对他们隐私的微妙侵蚀，而他们接受这些隐私是为了换取这种观点。
青少年喜欢他们的算法反射
受到这些问题的启发，我和德雷克塞尔大学的约翰·塞伯格（John Seberger） 、阿夫萨内·拉齐（Afsaneh Razi）我问：青少年如何在这个算法生成的环境中导航，以及他们如何在镜子中认出自己？
在我们对 13-17 岁青少年的定性访谈研究中，我们发现个性化算法内容似乎确实呈现了青少年所认为的可靠的自我镜像，并且他们非常喜欢看到社交媒体反映的体验。
我们采访的青少年表示，他们更喜欢完全为他们定制的社交媒体，描绘他们同意的内容、他们想看到的内容以及他们是谁。
如果我查找一些对我来说很重要的内容，它会显示为热门帖子之一，[并且]它会显示，例如，人们[像我]正在进行愉快的讨论。
事实证明，我们采访的青少年认为 TikTok 等社交媒体算法已经变得非常好，以至于他们认为自己在社交媒体上的反映非常准确。以至于青少年很快就会将与他们的自我形象不一致的内容视为异常——例如，无意中接触过去的内容的结果，或者只是一个小故障。
在某个时候，我可能在 TikTok 上看到了有关该节目的一些内容，并且我在没有意识到的情况下与它进行了互动。
当个性化内容与他们的自我形象不一致或不一致时，我们采访的青少年表示，他们会滚动浏览它，希望再也不会看到它。即使这些感知到的异常现象表现为极端男性化或“令人讨厌”的内容，青少年也不会将此归因于自己的任何具体情况，也不会声称要在自己的行为中寻找解释。根据我们采访中的青少年的说法，社交媒体镜子并没有让他们更加自我反思或挑战他们的自我意识。
让我们惊讶的一件事是，虽然青少年意识到他们在“为你”推送中看到的内容是他们在社交媒体平台上滚动习惯的产物，但他们基本上没有意识到或不关心跨应用程序捕获的数据有助于这种自我-图像。无论如何，他们并不认为“为你”的内容是对他们自我意识的挑战，更不用说对他们的自我认同构成风险——就此而言，也没有任何担忧的基础。
塑造身份
自我呈现以来，关于身份的研究已经取得了长足的进步。他认为人们通过社会表现来管理自己的身份，以在自己认为的自己与他人如何看待自己之间保持平衡。
当戈夫曼首次提出他的理论时，还没有可用的社交媒体界面可以方便地反映出他人所经历的自我。人们有义务创造自己的马赛克图像，这些图像来源于多种来源、遭遇和印象。近年来，社交媒体推荐算法已经融入到自我、公共和社交媒体算法之间的三向协商中。
“为你”产品创造了一个私人-公共空间，青少年可以通过该空间获得他们认为对他们的自我形象基本上准确的测试。与此同时，他们表示，如果它似乎与自我形象不符，他们可以很容易地忽略它。
青少年与社交媒体达成的协议，交换个人数据并放弃隐私以确保访问算法镜像，对他们来说是一笔划算的交易。他们表示自己能够自信地忽略或跳过似乎与他们的自我意识相矛盾的推荐内容，但研究表明并非如此。
事实上，他们已经证明自己非常容易受到自我形象扭曲和其他心理健康问题的基于社交媒体算法，这些算法明确设计用于创造和奖励超敏反应、固着和畸形——一种人们关注自己外表的心理健康障碍。
鉴于研究人员对青少年大脑和社会发展阶段的了解，以及基于社会反馈对自我形象的可塑性的合理推测，青少年认为自己可以摆脱自我认同风险的想法是错误的。算法。
干预措施
部分补救措施可能是使用人工智能构建新工具另一种方法是帮助青少年反思他们构建的这些“数据替身”。
我和我的同事现在正在更深入地探索青少年如何体验算法内容以及哪些类型的干预措施可以帮助他们反思。我们鼓励我们领域的研究人员设计方法来挑战算法的准确性，并将它们暴露为反映行为而不是真实行为。补救措施的另一部分可能涉及为青少年配备工具来限制对其数据的访问，包括限制 cookie、使用不同的搜索配置文件以及在使用某些应用程序时关闭位置。
我们认为，这些步骤都可能会降低算法的准确性，在算法和自我之间造成急需的摩擦，即使青少年不一定对结果感到满意。
让孩子们参与进来
最近，我和我的同事Encode Justice的年轻人Z 世代研讨会，Encode Justice 是一个由高中生和大学生组成的全球组织，倡导安全和公平的人工智能。目的是更好地了解他们在算法和人工智能下如何看待自己的生活。 Z 世代表示，他们很担心，但也渴望参与塑造自己的未来，包括减轻算法危害。我们研讨会的部分目标是引起人们的注意并促进青少年驱动的算法及其效果调查的必要性。
研究人员还面临的是，我们实际上并不知道不断与算法协商身份意味着什么。我们许多研究青少年的人都太老了，无法在算法调节的世界中长大。对于我们研究的青少年来说，不存在“人工智能之前”。
我认为忽视算法正在做什么是危险的。青少年的未来可能是社会承认青少年与社交媒体之间独特关系的未来。这意味着让他们参与解决方案，同时仍然提供指导。
乔治梅森大学信息技术助理教授。
本文是根据知识共享许可The Conversation阅读原文。
