Для того, чтобы переместить тензор на видеокарту мы можем воспользоваться методом .to('cuda:0'). Для того, чтобы вернуть тензор обратно на cpu можно воспользоваться тем же методом .to('cpu'). Кроме того, существует метод .cuda() , который аналогичен .to('cuda:0'). И .cpu() , который аналогичен .to('cpu').
Предположим, у нас есть тензор a, который находится на видеокарте и тензор b, который находится на cpu.
Чтобы произвести арифметическую операцию с этими тензорами, мы можем:

  • оставить все как есть
  • перевести a на cpu
  • перевести b на gpu

К сожалению, у нас пока нет статистики ответов на данный вопрос, но мы работаем над этим.