In quantum mechanics
「量子力学では」という意味で、特定の物理学の分野を指します。
observables
「観測可能量」という意味で、測定可能な物理量（位置、運動量など）を指します。
are represented
「～として表現される」という意味の受動態です。
by linear operators
「線形作用素によって」という意味で、表現の手段を示します。
acting on a Hilbert space
「ヒルベルト空間に作用する」という意味で、線形作用素がどのような数学的空間で機能するかを示します。ヒルベルト空間は、量子力学で状態ベクトルが定義される空間です。