Proxmox virtual machine *automation* in Terraform

Summary

В этом видео рассказывается о том, как автоматизировать создание виртуальных машин с помощью Terraform в Proxmox. Автор использует бесплатный инструмент Packer для создания шаблонов виртуальных машин с Ubuntu и настройкой Docker через скрипты. В видео объясняется, как настроить API-токен для Terraform, создать файлы конфигурации и использовать провайдера Proxmox. Также рассматривается использование Cloud-init для настройки сетевых параметров и добавления пользователей. В результате, виртуальная машина создается полностью автоматически с заданными параметрами.

Takeaways

• 😀 В видео показано, как автоматизировать создание шаблонов виртуальных машин с помощью прокси-сервера и бесплатного инструмента Packer.
• 🛠️ Terraform используется для автоматизации виртуальных машин, что позволяет избежать ручного клонирования шаблонов и настройки учетных данных, IP-конфигураций и ресурсов в веб-интерфейсе Proxmox.
• 🔗 Необходимо иметь базовое понимание Terraform, так как видео не будет полностью объяснять все основы этого инструмента.
• 🔗 Для использования Terraform с Proxmox необходимо установить и настроить провайдер Terraform для Proxmox, который доступен на GitHub.
• 🔑 Создание API-токена в Proxmox для аутентификации Terraform на серверах и создания необходимых ресурсов.
• 💾 Используются файлы `provider.tf` и `credentials.auto.tfvars` для хранения конфигурационных настроек и секретов соответственно.
• 📝 В видео рассматривается создание файла с ресурсами виртуальной машины, где определяются параметры, такие как имя, описание, идентификатор виртуальной машины, целевой узел, количество ядер процессора, режим CPU, объем памяти и шаблон виртуальной машины для клонирования.
• 🌐 Для подключения виртуальной машины к сети используется сетевой мост по умолчанию, и также определяется конфигурация диска, учитывая, что шаблон уже содержит виртуальный жесткий диск с установленной операционной системой.
• 🔄 В процессе настройки виртуальной машины с помощью Terraform можно использовать Cloud-init для указания настроек, которые должны быть подготовлены при запуске виртуальной машины, таких как статический IP-адрес, DNS-сервер, имя пользователя и открытый SSH-ключ.
• ⏲️ Пример в видео показывает, что создание новой виртуальной машины с использованием Terraform занимает около一分半 минуты, что демонстрирует эффективность автоматизации в инфраструктуре Proxmox.

Q & A

Что такое Packer и как оно используется в видео?

Packer - это бесплатный и открытый инструмент для автоматизации создания образов виртуальных машин. В видео он используется для автоматической установки и настройки образов Ubuntu с помощью пользовательских скриптов для установки Docker и настройки IP-адреса или конфигурации с использованием Cloud Init.

Какое основное отсутствующее в предыдущем видео было решено в этом видео?

В этом видео решена задача автоматизации создания виртуальных машин, так как в предыдущем видео они клонирулись вручную, и также требовались настройка учетных данных, IP-конфигурации и ресурсов в веб-интерфейсе Proxmox.

Что такое Terraform и как оно используется для автоматизации виртуальных машин?

Terraform - это бесплатный и открытый инструмент автоматизации инфраструктуры в коде, который позволяет определить все необходимые ресурсы в коде и автоматически настраивает их в вашей среде. В видео он используется для автоматизации создания виртуальных машин в Proxmox с использованием провайдера Proxmox.

Какие преимущества предлагает использование Terraform для управления инфраструктурой?

Terraform позволяет определять и настраивать инфраструктуру с помощью кода, что упрощает управление, обеспечивает повторяемость и позволяет интегрироваться с различными поставщиками облачных услуг.

Какой провайдер Terraform используется для интеграции с Proxmox в видео?

В видео используется неофициальный провайдер Terraform от Tellmate для Proxmox, который предоставляет возможность подключения и управления ресурсами Proxmox через Terraform.

Как создать токен API для аутентификации Terraform в Proxmox?

Для создания токена API в Proxmox необходимо выбрать дата-центр, перейти в раздел 'Разрешения', затем 'API токены' и добавить новый токен для конкретного пользователя. Необходимо выбрать настройку 'Privilege separation', чтобы токен имел те же привилегии, что и пользователь, и скопировать секрет токена.

Чем отличается использование Terraform для управления виртуальными машинами от ручного управления?

С использованием Terraform все настройки виртуальных машин определяются и применяются через код, что позволяет автоматизировать процессы создания, настройки и управления виртуальными машинами без ручного вмешательства.

Какие параметры нужно указать для создания виртуальной машины в Terraform?

Для создания виртуальной машины в Terraform необходимо указать имя, описание, идентификатор виртуальной машины, целевой узел, количество CPU ядер и сокетов, режим CPU, объем памяти, шаблон виртуальной машины, сетевые параметры и, возможно, дополнительные настройки дисков.

Что такое Cloud Init и как оно используется в контексте Terraform и Packer?

Cloud Init - это инструмент для настройки облачных виртуальных машин, который используется в Packer для указания настроек, которые должны быть применены при запуске виртуальной машины, таких как IP-адрес, DNS-сервер, имя пользователя и пароль. В Terraform это позволяет также настраивать виртуальные машины при создании.

Как проверить, какие ресурсы Terraform создаст или изменит перед применением?

Для проверки ресурсов, которые будут созданы или изменены Terraform, используется команда `terraform plan`. Эта команда показывает предпросмотр изменений перед их применением с помощью команды `terraform apply`.

Outlines

00:00

🔧 Автоматизация виртуальных машин с Terraform и Proxmox

В этом разделе рассматривается процесс автоматизации создания виртуальных машин в Proxmox с использованием Terraform. Автор упоминает предыдущий видеоролик о создании шаблонов виртуальных машин с помощью Packer и Cloud Init. Теперь он собирается автоматизировать процесс клонирования шаблона в новую виртуальную машину и настройки учетных данных, IP-конфигураций и ресурсов через веб-интерфейс Proxmox. В качестве инструмента для этой задачи выбран Terraform, который является популярным инструментом для управления инфраструктурой как кодом. Также упоминается спонсор видео - Teleport, который предоставляет доступ к удаленным ресурсам с использованием двухфакторной аутентификации и аудита. В заключение автор напоминает о доступности видеоуроков по Terraform и Packer, а также ссылки на проектные файлы на GitHub.

05:01

🔐 Настройка подключения Terraform к Proxmox

Второй параграф посвящен подробной настройке подключения Terraform к серверу Proxmox. Автор объясняет, как создать токен API в Proxmox для аутентификации Terraform, указывая на важность сохранения секрета токена. Далее описывается создание файла конфигурации провайдера Terraform (provider.tf), включая необходимую версию Terraform и настройки провайдера Proxmox с использованием таймейта провайдера. Также рассматривается создание файла с учетными данными (credentials.auto.tfvars), который не должен храниться в репозитории из-за чувствительности данных. В заключение автор упоминает о возможных проблемах с самоподписанными сертификатами и соответствующих настройках в Terraform.

10:02

🚀 Создание и настройка виртуальной машины с Terraform

В заключительном разделе видео скрипта рассматривается создание файла ресурсов виртуальной машины (srv-demo1.tf) в Terraform. Автор детально описывает процесс определения параметров виртуальной машины, включая имя, описание, идентификатор VM, целевой узел, агента и другие настройки, такие как количество ядер процессора, режим CPU, объем памяти и шаблон VM для клонирования. Также упоминается настройка сети и дискового пространства. Автор подробно объясняет использование Cloud Init для настройки IP-адреса, DNS-сервера и добавления пользователей с SSH-ключами. В заключение проводится планирование ресурсов с помощью команды 'terraform plan' и применение изменений с помощью 'terraform apply', что приводит к созданию виртуальной машины на Proxmox. Автор радуется скорости и простоты процесса, а также делится своими мыслями о полном автоматизации управления инфраструктурой на Proxmox.

Keywords

💡Packer

Packer - это инструмент с открытым исходным кодом, используемый для создания шаблонов виртуальных машин. В видео Packer используется для автоматической установки образов Ubuntu и пакетов с использованием пользовательских скриптов оболочки для установки Docker и настройки конфигурации IP-адреса с помощью Cloud Init. Packer играет ключевую роль в автоматизации процесса создания шаблонов виртуальных машин, что облегчает последующее развертывание и настройку новых виртуальных машин.

💡Proxmox

Proxmox - это гипервизор с открытым исходным кодом, используемый для управления виртуальными машинами и контейнерами LXC. В контексте видео, Proxmox используется как платформа для развертывания виртуальных машин, автоматизированной с помощью Terraform. Проксмокс предоставляет веб-интерфейс для ручной настройки виртуальных машин, но автор видео стремится к полной автоматизации этого процесса.

💡Terraform

Terraform - это инструмент с открытым исходным кодом для автоматизации инфраструктуры в виде кода. В видео он используется для автоматизации создания и настройки виртуальных машин на Proxmox. Terraform позволяет определять все необходимые ресурсы в коде, что обеспечивает повторяемость и контроль версий для инфраструктуры. В видео демонстрируется, как Terraform используется для автоматического клонирования шаблона виртуальной машины и настройки параметров, таких как IP-адреса и учетные данные.

💡Cloud Init

Cloud Init - это инструмент для настройки виртуальных машин, работающих в облаке, который также используется в сценарии с Proxmox. В видео Cloud Init используется для автоматической настройки виртуальной машины при запуске, включая настройку IP-адреса, DNS-сервера и добавление пользователей. Это позволяет упростить процесс настройки новой виртуальной машины после ее создания.

💡API Token

API Token - это уникальный идентификатор, используемый для аутентификации и авторизации в API. В видео API Token создается в Proxmox для предоставления Terraform разрешений на доступ к серверам и создание ресурсов. Этот токен включает в себя имя пользователя и секретный ключ, которые должны быть сохранены в защищенном месте и использованы для подключения Terraform к Proxmox.

💡Infrastructure as Code

Infrastructure as Code (IaC) - это практика определения и управления инфраструктурой с помощью кода в виде текстовых файлов, аналогично программному обеспечению. В видео это концепция важна, так как Terraform используется для определения виртуальных машин и их параметров в коде, что позволяет автоматизировать их развертывание и настройку.

💡Provider

Provider в контексте Terraform - это плагин, который позволяет Terraform взаимодействовать с различными сервисами и платформами, такими как Proxmox. В видео рассматривается провайдер Proxmox, разработанный сообществом, который позволяет Terraform управлять виртуальными машинами в Proxmox.

💡VM Template

VM Template - это предварительно настроенный образ виртуальной машины, который можно использовать для быстрого создания новых виртуальных машин с одинаковой конфигурацией. В видео автор использует шаблоны VM, созданные с помощью Packer, для автоматического развертывания виртуальных машин в Proxmox с помощью Terraform.

💡SSH Key

SSH Key - это пара ключей, используемых для аутентификации в системе без использования пароля. В видео автор добавляет публичный SSH-ключ в настройках Cloud Init для автоматической настройки доступа к виртуальной машине после ее создания, что обеспечивает безопасный и удобный способ доступа к серверу.

💡Terraform Plan and Apply

Terraform Plan и Apply - это две ключевые команды Terraform, используемые для проверки и применения изменений в инфраструктуре. В видео автор использует команду 'terraform plan' для предварительного просмотра изменений, а затем 'terraform apply' для применения этих изменений и создания виртуальной машины в Proxmox.

Highlights

介绍了如何使用Packer自动化创建自定义虚拟机模板。

展示了如何使用Terraform自动化虚拟机本身的创建过程。

即使没有使用Packer准备的自定义镜像，也可以使用Terraform与Proxmox集成。

Terraform是一个开源的基础设施即代码自动化工具。

Terraform允许通过代码定义所有资源，而不是通过Web界面或手动过程。

介绍了如何使用Terraform部署云基础设施，如Kubernetes和Docker。

介绍了Proxmox的Terraform提供者，这是一个非官方的自定义扩展。

创建API令牌是Terraform连接到Proxmox服务器的必要步骤。

创建了名为provider.tf的文件，用于存放Terraform的一般配置设置。

创建了一个单独的credentials.auto.tfvars文件来存放敏感信息。

如果使用自签名证书，需要在Terraform提供者设置中添加insecure参数。

创建了srv-demo1.tf文件来定义要在Proxmox中创建的虚拟机资源。

在Terraform文件中定义了虚拟机的一般设置，如名称、描述、VM ID和目标节点。

设置了虚拟机的CPU核心数、内存大小和从哪个VM模板克隆。

介绍了如何在Terraform中使用cloud-init来配置虚拟机启动时的设置。

展示了如何运行terraform plan命令来查看将要创建的资源。

展示了如何运行terraform apply命令在Proxmox上应用更改。

展示了如何通过Terraform自动创建并配置新的虚拟机。

讨论了如何使用Terraform管理Proxmox服务器上的资源，而无需手动操作。

Transcripts

hey everybody in one of my last videos

i've shown you how you can automate

custom virtual machine templates in

proxbox we use the free and open source

tool packer to automatically install our

images with ubuntu and we package it

with custom shell scripts to install

docker and set up an ip address or use

configuration with cloud init but there

was one big thing missing in this video

and this is automating the virtual

machines itself because we still cloned

this template manually to a new virtual

machine and we also needed to set up

credentials ip configurations and

resources in the web ui of proxbox and

that is exactly what i want to automate

in this video with one of my favorite

tools terraform so let's do this

by the way if you haven't watched the

previous video with packers don't worry

you can still follow this video along

because the terraform proxmox

integration doesn't need a custom image

prepared with packer you can use the

same automation scripts with any other

custom vm template you have created and

prepared with cloud init regardless of

how you've done it i also think it helps

to have some basic knowledge about

terraform because i probably won't cover

all the basics here so if you'd like to

learn more about terraform and packer

i've linked you both of my video

tutorials in the description of this one

and then you can check it out later and

of course you will also find the project

files for this tutorial on my personal

github page in the boilerplates

repository so just navigate to terraform

proxmox and then you will find the

templates that i'm explaining here in

this video

but before we start with the template

first i want to say a few words about

today's sponsor teleport

so we keep talking about amazing free

and open source tools teleport is an

access proxy to protect your remote

resources like ssh linux servers

kubernetes databases or web applications

with two-factor authentication and an

audit logging i always use it when i

need to log in from outside my home

network or securely access my cloud

resources is a great application so just

donate and try it out of course you will

find a link to their website in the

description down below okay so let's

first recap what you might or might not

know about terraform this is a free open

source infrastructure as code automation

tool so the goal of infrastructure is

code is that you don't need to set up

install and configure your it

infrastructure through web interfaces or

manual processes anymore instead you

define all the resources you need in

code very similar to a programming

language where you describe an object in

some states you want these resources to

have whatever you define in the code

therefore makes sure that this is

happening in your environment i've

previously used it to deploy cloud

infrastructure like kubernetes and

docker and it's a very common devops

tool that integrates well with other

cloud providers but i also recently

found a custom teraframe provider for

proxmox

i'm using proxmoxnow for quite some time

in my home lab and it's absolutely my

favorite hypervisor to run virtual

machines and i've also done some videos

about it and i guess many of you guys

will already use it

so let's take a look at the proxbox

provider in the terraform rager street

which is made by tellmate and you should

know that this is not an official

provider because hashicorp the vendor of

terraform opened terraform up for any

custom implementations and makes it very

easy for developers to write their own

extensions and the proxmox provider is

such a custom extension however i've

seen that it's around for quite some

time and supported by many people so

it's worth taking a look at the gita

project it's pretty cool and in the

official documentation you can also see

how you can use it in terraform to

connect it to your local proxmox server

but don't worry of course i will walk

you through this stuff as well

so first we need to create an api token

in proxmox because terraform needs to

somehow authenticate to our servers and

create the required resources if you

don't know how to do that in proxmox you

need to select your data center and go

to permissions api tokens add a new api

token for a specific user in my case

i've just used the root user here

because this user already has all the

privileges we need in terraform just

enter a name for the token id and now

it's really important to select the

privilege separation setting because we

want our api token to have the same

privileges as the root user

note that the api token secret will only

show up once so when you close the

window and forgot the secret you need to

create another one and then you just

need to copy this token and put these

settings in a credentials file in

terraform so take care the api token is

username and the token id separated with

an exclamation mark now that we have the

api token let's create the base files

for this project and i always start

creating a file which i call provider.tf

where i put all the general

configuration settings for terraform so

first i defined the required version for

it and the required provider section and

here we just need to define proxmox and

put the tailmate proxmox provider as our

source

if you want to specify a version you can

also do it as well here and then we need

to define three variables for the

proxmox credentials remember that you

should never store the actual secrets

here in the terraform project so just

declare the variables for the api url

the token id and the token secret as

string objects the last two ones is

sensitive

and i've then created a separate file

which i've called credentials.out.tfrs

here you can put the secrets in note

this file should not be included in any

repository so keep it secret because

here you can add the three variables to

connect to your proxmox server these

auto dot tfr files by the way are

special in terraform because they are

automatically loaded when you locate

them in the same project directory so

you don't need to specify them in the

command later very nice now let's come

back to the provider's file and here we

just need to set the three parameters

that are necessary for the connection to

the values of our variables and that

should be all no one more thing if

you're using a self-signed certificate

and your client doesn't trust the

connection to the proxmox ui you also

need to add a pmt ls insecure attribute

in the provider settings and set it to

true

but then that should be all so i've now

initiated the terraform project by

executing terraform in it until now that

all was pretty straightforward if you're

already familiar with terraform it

should be easy and now we can create the

file for our virtual machine resources

we want to create in proxmox so i've

just created a new file in the project

folder which i've called srv demo one

that will be a simple ubuntu server that

i want to create from a proxmox vm

template that i've already prepared in

packer so on my proxmox server you can

see these templates i want to use the

template with the id 902 which is just a

pre-installed ubuntu server in the 20.04

lts version now in the terraform file

i've created a resource from the type

proxbox vmq mo with the name srv demo1

and first you need to define the general

settings of the vm like the name the

description the vm id and what is the

target node so where do you want this vm

to be created on now the next parameter

is the agent and this is pretty

important it took me quite some time to

find it out because in the past i had

some problems with the speed of

terraform in combination with the

tailmate proxmox provider and after

researching i found out this has

something to do when the qmo guest agent

is installed on this virtual machine but

you haven't set this agent parameter

into the terraform resource so keep that

in mind when you're using the guest

agent in your vm template don't forget

to set this agent parameter to one and

now we can specify the other parameters

for this virtual machine like how many

cpu cores and sockets you want to give

it what should be the cpu mode and how

much memory the virtual machine should

have and of course from which vm

template you want to clone it from now

in this parameter you just need to set

the name of the vm template not the id

and it's also important to connect this

virtual machine to a network so i've

added my default vm bridge and now comes

something that also might be a bit

confusing because you can specify the

disk layout for this virtual machine but

be careful when you're using a vm

template because this vm template

already has a virtual hard drive because

it already has an operating system

installed on it and when you now specify

a disk in terraform they need to have

the exact same statements so take care

of that you're specifying the same

storage location the same type and size

for the disk otherwise if these settings

are different chevron will most likely

create a second hard disk on this vm if

the parameter don't match with the

template and now comes something that

i've already explained in my packer

tutorial and this is really amazing it

is cloud init remember in my packer

tutorial we've used cloud init to

specify settings that should be

provisioned when the virtual machine is

starting like an ip address add a dns

server or add username and password

and the terraform proxybox provider can

also do this for you so in this section

i have now specified the os type to

cloud init and gave this machine some

network configuration i added a static

ip and gave it a dns server and i also

added an additional user and a public

ssh key know that we've done all of this

stuff you can see it's not much that we

need to specify here so let's go into

terraform and run the terraform plan

command so this will tell us which

resources terraform will create when we

apply the changes and if everything is

okay you can run the terraform apply

command to make these changes happening

on proxmox you can see that it now

already starts connecting to the server

and it already creates the virtual

machine

now that might take some time to copy

because it uses a full clone and not a

linked clone image but after this is

done it starts up the virtual machine

and we should be able to just access it

with a static ip address we have defined

in the terraform file

and yeah we are just now connected to

our server and it just took like one and

a half minutes to create this new

virtual machine fully automatic in code

if you ask me that's really amazing so

currently i'm not managing any resources

on my proxbox server manually i've

created a few repositories for all my

production and testing vms

and i'm all managing entire from now and

you can by the way also create and

provision lxc containers as well i

personally haven't done this because i'm

not using alex c but i guess the process

will be very similar to the template

that i've just used in this video and i

hope this will help you in your project

as well so please tell me in the

comments what are you using to manage

your home lab infrastructure and as

always thanks everybody for watching

enjoy the rest of your day take care of

yourself and i see you soon bye