ロータリーエンジン（Rotary engine）とは、一般的なレシプロエンジンのような往復動機構による容積変化ではなく、回転動機構による容積変化を利用して、熱エネルギーを回転動力に変換して出力する原動機である。

ドイツの技術者フェリクス・ヴァンケルの発明による、三角形の回転子（ローター）を用いるオットーサイクルエンジンが実用化されている。ヴァンケル型ロータリーエンジンとレシプロエンジンとでは構造は大きく異なるが、熱機関としては同等に機能する。本項ではこのヴァンケルエンジン（Wankel engine）について述べる。
ロータリーエンジンの研究は原理的には古くから行われてきたが、その中で唯一実用化されたいわゆるヴァンケルエンジンは、1957年に西ドイツ（当時）のNSU社とWankel社との共同研究により開発に成功した[1]。

レシプロエンジンとは基本的に大きく異なる構造を持っており、エンジン本体にピストンのような往復運動部はなく、ローター[注釈 1]の回転運動のみで動作している。またロータリーエンジンの吸気および排気のポートは、ハウジングの側面に設けられた孔がローター自体により開閉されるため、一般的な4ストロークレシプロエンジンのような、往復動する吸排気バルブやこれを開閉するカムシャフトなどの動弁系は必要ない。

4ストロークレシプロエンジンと同様にオットーサイクルやディーゼルサイクルでの熱力学的動作が可能だが、実用化されたのはオットーサイクルのガソリン燃料火花点火機関であり、ガソリンに代えて水素燃料を使える物も試作されている。ロータリーエンジンの性能基準となる「エンジン回転数」は、ローターではなくエキセントリックシャフト[注釈 2]の回転数であり、これが4サイクルレシプロエンジンのクランクシャフト回転数に相当する。ロータリーエンジンは1ローター当たり、エンジン回転数1回転に1回単室容積分の空気を吸入するため、1気筒当たり、エンジン2回転に1回単気筒容積分の空気を吸入する4サイクルレシプロエンジンの2倍の吸気回数を持つ（詳しくは下記「動作」を参照のこと）。すなわち、ロータリーエンジンの実質吸気量は「単室容積xローター数x2」となる。ロータリーエンジンデビュー期のモータースポーツにおいては、この考え方により、ロータリーエンジンの排気量に係数「2」を掛け