自2001年的《左小祖咒在地安门》之后，左小诅咒5月正式独立发行了第四张个人专辑《我不能悲伤地坐在你身旁》，标出了每张售价150元的内地唱片“天价”。此张专辑中，祖咒除了延续以往的噪音音乐之外，还尝试了多种不同的音乐类型。其中甚至包括了一曲和陈珊妮对唱的，具有Bossa Nova风格的歌曲《当我离开你的时候》。这是一张限量发行的专辑，只有2000张，几乎只在左小祖咒自己的网站(www.zuoxiaozuzhou.com)销售。 

专辑封面使用了一幅名为“公海浮石”的摄影作品，照用历史的颠簸，其实比任何设计与装饰都更厚重有力。这是一片无敌海景，其间一块奇石不可置信地忽沉忽浮。在新专辑的内页中，左小祖咒写到：这是两三年前录制的讽刺抒情作品，我三十年来的经验和直觉酿出的一坛佳酿。记者采访他时，他也讲到：“这张是我到目前为止最满意的专辑，也是我青少年时期的梦想。我一直想做一张好听、保持摇滚乐传统、意味深长、制作精良的专辑，但以前的专辑在录制过程中总有一些遗憾。现在我做成了。” 

新专辑中，左小祖咒保持了自己一贯的“讽刺抒情”，“不仅讽刺，也自嘲，对爱情、婚姻、战争的嘲讽。我相信大家在听完之后，能够得到很多。在演唱时，我也改变了一些方法，尽量平缓但不煽情。现在的音乐，感情过于泛滥，歌还没唱眼泪就下来了。我们就不能慢慢来吗？”他说，“制作上，更是吹毛求疵，制作团队非常庞大，找了很多音乐人来参与，我要这张专辑多姿多彩。”