设计
超级计算机的创新设计在于把复杂的工作细分为可以同时处理的工作并分配于不同的处理器。他们在进行特定的运算方面表现突出，但在处理一般工作时却差强人意。他们的数据结构是经过精心设计来确保数据及指令及时送达——传递速度的细微差别可以导致运算能力的巨大差别。其输入/输出系统也有特殊设计来提供高带宽，但是这里的数据传输延迟却并不重要——超级计算机并非数据交换机。
根据阿姆达尔定律，超级计算机的设计都集中在减少软件上的序列化、用硬体在瓶颈上加速。
挑战与科技
超级电脑通常产生大量的高热，冷却超级电脑是一个很大的问题。
因为数据传送的速度不能比光快，几米的距离导致了几十纳秒的延迟，而克雷著名的环型设计保持了最短距离。
超级电脑在短时间内消耗及生产大量的数据，需要投入很多资源确保资讯妥善传送及访问。
因超级计算机而开发的科技：
矢量处理器
水冷技术
非均匀访存模型
处理器技术
矢量处理因超级计算机而创建并用于高性能运算。矢量处理技术后来被用于普通电脑内的信号处理架构及单指令流多数据流，例如：电视游乐器及通用图形处理器等。