A、如果是长方体,不止有两个面平行,故此选项错误;B、如果是长方体,不可能所有的棱都平行,只是所有的侧棱都平行,故此选项错误;C、如果是底面为梯形的棱柱,不是所有的面都是平行四边形,故此选项错误;D、根据棱柱的定义知其正确,故选D.