ピアノが発明される前の弦楽器系鍵盤楽器は、チェンバロとクラヴィコードであった。前者はある程度の音量は持ち合わせたものの、レジスターの切り替えで何段階かの強弱を出せる他は自由に強弱を演奏することは困難であった（強弱を付けているように聴かせる演奏技術はあったが）。一方、クラヴィコードは強弱が自由に付けられた（さらに打鍵した後で鍵を揺らすことによってさらに表現を付けることができた）ものの、音量が得られず、狭い室内での演奏にはよかったものの、ある程度以上の広さの空間で演奏するには耐えなかった。そこで、クラヴィコードに音量を得させるために、より弦に張力を与え、その張力に耐えるフレームを用意したことにより、チェンバロとクラヴィコードの両方の欠点をなくして、音の強弱を表現が自由に行えながら、より広い演奏会場でも音が届くようになったのが、この楽器である。
17世紀後半に、イタリアのバルトロメオ・クリストフォリ(Bartolomeo Cristofori) が発明したとされる。1709年に発明されたという説が語られる事もあるが、これは確定的なものではない。
時代ごとの作曲家に照らし合わせると、J.S.バッハは最晩年の1747年5月7日にフリードリヒ大王の宮廷を訪ねた際、大王より与えられた主題により即興演奏を行なった(のちに『音楽の捧げもの』としてまとめられることになる)。この時演奏に用いたのはジルバーマン製作のピアノであったが、バッハはピアノには否定的で、この時以外演奏の記録は無く、ピアノ用の曲は1曲も書かなかった。その次男、カール・フィリップ・エマヌエル・バッハは、チェンバロとピアノを各1台ずつ独奏楽器に指定した二重協奏曲を残している。また、末子のヨハン・クリスティアン・バッハはロンドンに在住中、演奏旅行で訪ねて来た少年時代のモーツァルトをひざの上に乗せて、二人の連弾でピアノを弾いたという。またモーツァルト本人は3歳の頃からピアノを弾き始め、6歳でマリア・テレジアの御前で演奏した（その際7歳のマリー・アントワネットに求婚した逸話がある）。この頃がピアノの普及期であったと言える。
ハイドン、モーツァルト、ベートーヴェンの頃のピアノはペダルが無くダンパーは膝で操作し、又、ハンマーが木造なので音色はダルシマー、ツィンバロンに似たものとなる。演劇のアマデウスにも使われた。シューベルト、ショパン、リストの頃にはハンマーがフェルト製となる現代ピアノ(モダン・ピアノ)の構造が概ね確立する。
日本には、シーボルトによって初めて輸入された。山口県萩市の熊谷美術館（くまやびじゅつかん）にはシーボルトより贈られた日本最古のピアノが現存する。