在《三体》这部科幻小说中，叶文洁背叛人类的原因是一个复杂的过程，它涉及到对浩劫的失望、被人出卖和对人性的深刻反思。首先，她经历了父亲叶哲泰被打死和母亲邵琳揭发自己的家庭悲剧，这些事件让她对人性产生了深深的恐惧和失望。接着，她遭到了记者白沐霖的出卖，被迫承担罪责，这次背叛加剧了她的绝望。

其次，在红岸基地工作期间，雷政委利用她并非诚意合作，而是想独占她的研究成果。这一切让她明白，原来所有的人都只关心自己的利益，没有人真正信任或支持别人。更何况，当她试图找到那些曾经欺凌过自己父亲的人时，他们竟然毫无悔意，不仅不道歉，还要与她断绝关系。这一系列连串的痛苦经历，让叶文洁再也无法容忍人类社会中的丑恶现象。

最后，在红岸基地偶然发现地球可以借助太阳作为巨大的发射器向外星球发送信号后，她回顾起过去的一切不幸，以及人类社会所面临的问题。她认为，如果能引入外星力量来改变这一切，那么问题就能迎刃而解。在这样的心理状态下，叶文洁做出了决定，即向宇宙发出信号，使得三体星球能够准确定位地球，并最终实施侵略计划。