孩子们看着这些视频中自己最爱的卡通人物在杀戮性侵的场景中演出，心灵正在受到创伤。14也已有家长报告，他们的孩子看过这些恐怖视频后行为发生了改变。这些网络效应已经引起了真实且可能持续的伤害。将年幼的孩子（有些还特别年幼）暴露在暴力与不安的情境下是一种虐待，但如果就只是以“就没有人想想这些孩子吗”的绝望控诉来应对这个问题，那就完全错了。显然这些内容并不恰当，显然背后有坏人存在，显然有些视频应该被删除。显然，这会带来关于适当性、盗用、言论自由等等问题。但从这个角度解读下去，就无法完全掌握其中运用的机制，从而无法在整体上思考其后果，并据此进行应对。
许多此类怪异视频的特点就是其展示出的恐怖与暴力程度，有时候是小孩的低俗表现，有时候是恶意的挑衅，而大部分时候则比这些更深入、更无意识。互联网能够放大并满足我们的许多潜在欲望——事实上，这似乎是它最擅长的事。也可以辩护说这种趋势有其正面意义：网络技术的蓬勃发展让许多人能够以从未有过的方式实现与展现自我，提升个人能力，解放不同个性与性向，而这从未像今天这样由如此不同的各类声音、被如此活跃地谈论。但如今，在这个有数百万儿童与成人经年累月流连忘返的地方——通过自己的举动，他们也向掠夺成性的算法暴露了自己最经不起诱惑的欲望——这种趋势似乎不可阻挡地变得暴力而充满破坏性。
与暴力相伴的，还有对儿童难以言喻的剥削—不是因为他们是儿童，而是因为他们毫无力量。像YouTube算法这样的自动回馈系统必须依赖剥削来维持其收入，并将贪婪的自由市场资本主义中最恶劣的一面编入了程序。如果不捣毁整个系统，就不可能施以任何控制。剥削已经被写入了我们正在建设的这个系统因而更难以发现，更难被思考与解释，更难去对抗与防范。更让人不安的是，这不是科幻作品里的未来剥削图景—由AI进行独裁统治、工厂里全是机器人在工作—而是发生在游戏室里、客厅中，在家里乃至口袋里，由同一套运算机制驱动的现实。而处于两端的人们都在受到伤害：一面是麻木而惊恐的观看者；一面是低薪甚至无薪、被剥削或虐待的制作者。而居中的大多是自动化公司，同时从两端获利。
新黑暗时代科技与未来的终结
229
250