Existe um kit de componentes chamado breadboard. Esse kit contém uma placa e outros componentes, que você pode construir circuitos computacionais do zero. Você constrói sua própria cpu e etc...como consequência não tem sistema operacional, mas você consegui programar ela por meio de o monitor feito com arduíno pra passar programas pra ela computar, não sei se é exatamente o que procurava mas eu lembrei disso e resolvi compartilhar, vou deixar o link do artigo do Ben Eater contando mais detalhes:
O processador usado no link é antigo me parece Tem que ter cerca de 1GHz e bastante memoria
"Tem que ter" porque?
Pelo que deu a entender você quer aprender a fazer um SO. Um processador de 8 bits como os que o Ben Eater vende kits (e tem muitos excelentes videos sobre) é uma PUTA ferramenta de aprendizado.
Não vou usar para brincar.
Tem aguentar a execução de criptografia que exige bastante processamento.
Nesse caso o que precisa não é de um computador e sim de um ASIC ou FPGA. Eles não tem Firmware ou qualquer outra coisa, você literalmente renderiza o circuito com Verilog ou VHDL.