19世紀中葉にベクトルの数学的基礎をつくったのはハミルトンやグラスマン。グラスマンは「n 次元ユークリッド空間」について研究し、19 世紀末にはペアノがベクトルの抽象的な定義を与えている。ペアノは、1888 年に刊行した『幾何学的算術』で、多項式からなる1 変数関数がベクトルの定義をみたし,線形独立な多項式は無数に存在するため、その関数の集合は無限である、つまり、その集合は無限次元であると述べている。つまり、ベクトルの定義をみたす関数の無限集合は「無限次元のベクトル空間」なのである。
物理的な変化は数学的には「微分方程式」によって表現される。例えば、弦や膜の振動、音波や電磁波の現象変化は(境界条件、初期条件がついた)「波動方程式」を解くことによってわかるが、その一般解は各々の振動数(固有値)に対応する「固有関数」の線形結合、つまり、「重ね合わせ」によって表すことができる。一般に、境界条件、初期条件のある「線形微分方程式」は「積分方程式」の形に書き直すことができ、固有値や固有関数も調べやすくなる。20 世紀の初頭、スウェーデンのフレッドホルムは、彼の名前のついた積分方程式を有限次元の連立1 次方程式で近似するというアイデアアから出発し、「行列式」を用いて1 次方程式を解く通常の方法を巧みに応用することによって積分方程式の解を調べた。この方法は当時の数学者の関心を呼び,数学の公理化を打ち立てたヒルベルトも積分方程式を論じている。関数を関数に移す写像は「作用素(演算子)」と言われるが、ヒルベルトは方程式の「積分作用素」がその固有関数によって展開できることを使って問題を整理した。方程式の解がベクトルの条件をみたすとき解の集合はベクトル空間となり、「固有関数の集合がその空間の正規直交基底」になる。積分方程式を研究する際、ヒルベルトは解の関数空間に「2 乗可積分」の条件を課したが、それが後にその関数空間を「ヒルベルト空間」と呼ぶ理由となった。
1922 年、ポーランドの数学者バナッハは学位論文『抽象集合における作用素とその積分方程式への応用』を発表。彼の方法は、性質のよい特殊な関数を用いて積分方程式の解を表そうというものではなく、ある条件を満たす関数の集合を考えて作用素についての一般的定理を導こうというものだった。その条件とは、集合の要素(関数)がベクトルの公理的定義を満たすこと、および、それによって得られるベクトル空間(関数空間)上でベクトル(関数)の(一般化された)ノルムによる「距離」を設定し、距離に関して「完備性」をみたすというもので、そのような関数空間は「バナッハ空間」と呼ばれる。個別の関数の特殊な性質に頼らない彼の方法は、作用素を研究する強力な武器「関数解析学」を生み出すことになった。1932 年、彼の記念碑的著述『線形作用素論』が出版され、ベクトル空間の抽象的概念が定着することになった。
1925 年、23 才のハイゼンベルクは原子の振る舞いを説明する量子の力学「行列力学」を生み出した。これに対して、オーストリアのシュレーディンガーは波動方程式による「波動力学」を定式化した。ヒルベルトは、「悪魔がまちがって人間の姿をしている」とまで評された、当時23 才のハンガリーの天才フォン・ノイマンに量子力学の解説を求めた。ハイゼンベルクの講義を聴いたフォン・ノイマンは、「ハイゼンベルクの行列理論もシュレーディンガーの波動理論も無限次元の複素ヒルベルト空間におけるベクトルを指している」というノートをヒルベルトに手渡した。これをきっかけに、ノイマンは量子力学を数学的に厳密化することを目指し、それは1932 年に出版された『量子力学の数学的基礎』にまとめられた。
*「公理系」の意味すること
公理は「証明なしに採用される基本命題」である。数学では無矛盾ないくつかの公理をまとめて公理系とし,それを理論の出発点として全ての定理を導出しようとする。その雛形はユークリッドの平面幾何学の公理系で、周知の定理を導出できる。「ペアノの公理系」は自然数をその全体の集合として明確に定義できる。つまり、その公理系を満たす対象が自然数ということになる。
ベクトルの公理的定義では,平面および空間の幾何ベクトルや数ベクトルに共通する一連の演算法則を選びだし,公理系をつくる。それらはベクトルの計算に必要最小限な演算法則であり,ベクトルとしての性質を規定するのに必要十分な条件となる。それは「ベクトルにはかくかくの性質がある」というのではなく,「かくかくの性質があるものがベクトルである」という考えに根ざしており,「ベクトルと呼ぶにふさわしい対象には,それが従うべき計算規則があり,その規則に従うものは,見かけに関係なく,全てベクトルと定める」という約定である。この約定によると、実数や複素数は共にベクトルと見なすことができる。実際、複素数は平面ベクトルに似た振る舞いをする。
数学的対象を公理系によって定義し,理論を公理系のみから完全に演繹的に展開することを確立したのはヒルベルトであり、それは1899 年の『幾何学基礎論』で具体化されている。「点・直線・平面という代わりに、テーブル・椅子・ビールジョッキということができる」と彼が形式主義を提唱したことは有名である。対象の名前は何でもよく、対象間の関係や計算を定めるルールがすべてを決定する。彼の理論は幾何学を超えて数学全般に多大な影響を与えた。これに匹敵する貢献は、数字の代わりに文字を用い、座標系を導入し、代数学と解析学の基礎を確立したデカルトの1637 年の『幾何学』だろうか。20 世紀に入り,すべての数学理論は公理系として(例えば、ブルバキによって具体的に)構築されていく(幾何学の三要人:ユークリッド、デカルト、ヒルベルト)。