中国科学院物理研究所前身是成立于1928年的中央研究院物理研究所和成立于1929年的北平研究院物理研究所。1950年在两所合并的基础上成立了中国科学院应用物理研究所。1958年更名为物理研究所。至今，已有50余位院士先后在物理所工作过，包括吴有训、赵忠尧、严济慈、吴健雄、钱三强等著名科学家。
经过几代人不懈努力，物理所现已发展成为以物理学基础研究与应用基础研究为主的多学科、综合性研究机构。研究方向以凝聚态物理为主，包括凝聚态物理、光物理、原子分子物理、等离子体物理、软物质物理、凝聚态理论和计算物理等。拥有磁学、超导、表面物理等3个国家重点实验室和光物理、电镜、真空物理、极端条件物理等4个院重点实验室。
进入中科院知识创新工程后，物理所围绕凝练出的科研目标调整学科布局，经过整合和新建，形成了由超导物理、磁学、表面物理、光物理、先进材料与结构分析、极端条件物理、纳米物理与器件、软物质物理、固态量子信息与计算、凝聚态理论、微加工实验室等十一个实验室，并成立了国际量子结构中心，构成了物理所的研究体系；由微加工实验室、机械加工工厂、电子学仪器部、分析测试部、图书馆、网络中心构成了全所的技术支撑体系。
物理所积极引进和培养杰出人才，经过多年的努力，物理所已经形成了一支结构合理、具有较强科研实力和创新能力的人才队伍。截至2011年底，物理所共有在职职工475人。其中科研人员239人、技术支撑人员107人，包括中国科学院院士14人、中国工程院院士1人、第三世界科学院院士6人、研究员及其他正高级专业技术人员126人、副研究员及其他副高级专业技术人员137人；全所进入创新岗位336人。共有中国科学院“百人计划”入选者43人（新增2人）；国家杰出青年科学基金获得者34人（新增1人），国家“千人计划”（国家海外高层次人才引进计划）入选者5人（新增1人）。
物理所围绕学科布局，加大对重要科研设施及实验仪器装备的投入力度，进口或自行研制了一批达到国内一流、国际先进水平的科研实验装置，主要有金属有机化学气相淀积（MOCVD）设备、磁性金属超薄膜生长/超高真空变温SPM/原位穆斯堡尔谱仪联合系统、有机分子外延－低温扫描隧道显微镜－纳米四探针探测（NP-OMBE-LTSTM）系统、TMR R&D Sputtering System、变温扫描隧道显微镜/原子力显微镜-角分辩光电子谱-分子束外延联合系统、多功能高分辨电子能量损失谱仪、场发射透射电子显微镜、极低温强磁场双探针扫描隧道显微镜、FEI DB235聚焦离子束刻蚀与沉积系统、Raith 150电子束曝光系统、IBM SP 690大型计算机、模块式三级拉曼光谱系统以及自行研制的超高真空低温强场双探针STM、高分辨率TEM-扫描探针SPM原位物性研究系统、激光分子束外延系统II型激光分子束外延系统和极光Ⅱ号太瓦级激光装置等。
