在《三体》这部科幻小说中，叶文洁背叛人类的原因是一个复杂的过程，它涉及到对浩劫的失望、被人出卖和对人性的深刻反思。首先，她经历了父亲叶哲泰被打死和母亲邵琳揭发自己的家庭悲剧，这让她年轻的心灵受到极大的伤害，使她对同类产生了深深的恐惧。

其次，她在内蒙古生产建设兵团期间，被记者白沐霖出卖，导致自己成了替罪羊。这段经历加深了她对人性的失望，因为《寂静的春天》这本书中的观点告诉她：人类无法自我约束，需要外部力量来引导。这种思想在她的心中种下了一颗种子。

第三个因素是当她进入红岸基地后，雷政委利用她的研究成果，并长期欺骗她，这进一步削弱了她的信任感和希望。在离开红岸基地后，她试图找到那些曾经欺负过父亲的人，但他们毫无悔意，即使面对现实，他们仍然认为自己也是历史受害者。这一连串事件再次让叶文洁感到绝望。

最后，当她发现红岸基地实际上是一种利用太阳作为巨型发射器向外星球发送信息的手段时，她想起了所有过去发生的事情，以及人类社会中的不公与悲哀。她觉得解决这些问题唯一的办法就是让外星人介入，因此毫不犹豫地向宇宙发出信号，让三体星球上的执政官准确定位地球，并决定发动侵略。