Vật liệu là một thuật ngữ đã có từ rất lâu nhưng khoa học vật liệu mới được đề xuất từ những năm 60 của thế kỷ 20. Năm 1957, sau khi phóng thành công vệ tinh trái đất nhân tạo của Liên Xô, chính phủ Mỹ và giới khoa học công nghệ đã bị sốc và nhận ra tầm quan trọng của vật liệu tiên tiến đối với sự phát triển của công nghệ cao, nên hơn mười trung tâm nghiên cứu khoa học vật liệu đã được thành lập ở một số trường đại học, và kể từ đó, thuật ngữ khoa học vật liệu đã được sử dụng rộng rãi.
Sự hình thành của khoa học vật liệu là kết quả của sự phát triển của khoa học công nghệ. Điều này là do trước hết, sự phát triển của vật lý chất rắn, hóa học vô cơ, hóa học hữu cơ, hóa lý và các ngành khác, việc nghiên cứu-chuyên sâu về cấu trúc và tính chất vật lý của vật chất đã thúc đẩy việc nghiên cứu và hiểu biết về bản chất của vật liệu; đồng thời, luyện kim, luyện kim, gốm sứ và các nghiên cứu khác về bản thân vật liệu cũng được tăng cường đáng kể, do đó quá trình chuẩn bị, cấu trúc và tính chất của vật liệu cũng như mối liên hệ qua lại giữa chúng ngày càng trở nên-có chiều sâu, tạo nền tảng tương đối vững chắc cho sự hình thành của khoa học vật liệu. Thứ hai, trước khi thuật ngữ khoa học vật liệu ra đời, khoa học vật liệu kim loại, vật liệu polyme và vật liệu gốm đã- khép kín và có nhiều điểm tương đồng giữa chúng, có thể được sử dụng để tham khảo lẫn nhau nhằm thúc đẩy sự phát triển của ngành học này. Ví dụ, sự biến đổi pha martensitic ban đầu được đề xuất bởi các nhà luyện kim và được sử dụng rộng rãi làm cơ sở lý thuyết cho quá trình xử lý nhiệt thép. Tuy nhiên, hiện tượng biến đổi pha martensitic cũng đã được tìm thấy trong vật liệu gốm zirconia và nó được sử dụng như một phương tiện hiệu quả để làm cứng gốm. Thứ ba, có nhiều điểm tương đồng giữa thiết bị nghiên cứu và phương pháp sản xuất các loại vật liệu khác nhau. Mặc dù các loại vật liệu khác nhau có thiết bị kiểm tra và thiết bị sản xuất đặc biệt riêng, nhưng nhiều loại giống nhau hoặc tương tự nhau, chẳng hạn như kính hiển vi, kính hiển vi điện tử, thiết bị kiểm tra bề mặt và thiết bị kiểm tra tính chất cơ lý. Trong sản xuất vật liệu, nhiều đơn vị gia công cũng mang tính phổ quát. Việc khái quát hóa thiết bị nghiên cứu và thiết bị sản xuất không chỉ tiết kiệm chi phí mà quan trọng hơn là nó truyền cảm hứng và học hỏi lẫn nhau, đồng thời thúc đẩy sự phát triển của vật liệu. Thứ tư, sự phát triển của khoa học công nghệ đòi hỏi các loại vật liệu khác nhau phải thay thế nhau, phát huy tối đa ưu điểm của các loại vật liệu nhằm đạt được mục đích tận dụng tốt nhất các vật liệu. Từ lâu, các lĩnh vực kim loại, polyme và vật liệu vô cơ{13}}phi kim loại đã được tách ra khỏi nhau và có hệ thống riêng. Do không hiểu rõ nhau nên những người quen sử dụng vật liệu kim loại không nghĩ đến việc sử dụng vật liệu polymer, thậm chí có muốn sử dụng cũng không biết nhiều về chúng và cũng không dám hỏi. Ngược lại, những người đã quen sử dụng vật liệu polyme lại không muốn sử dụng vật liệu kim loại hoặc vật liệu gốm sứ. Vì vậy, sự phát triển của khoa học công nghệ đã đặt ra những yêu cầu mới đối với vật liệu, thúc đẩy sự hình thành của khoa học vật liệu. Thứ năm, sự phát triển của vật liệu composite kết nối các vật liệu khác nhau một cách hữu cơ thành một. Vật liệu tổng hợp trong hầu hết các trường hợp là sự kết hợp của nhiều loại vật liệu khác nhau và thông qua nghiên cứu khoa học vật liệu, chúng ta có thể hiểu sâu hơn về các loại vật liệu khác nhau, cung cấp nền tảng cần thiết cho sự phát triển của vật liệu composite.